Yerevan, 18.November.2026,
00
:
00
BREAKING

Առաջատար նեյրոցանցերում մարդկանց սպանելnւ պատրաստակամություն են հայտնաբերել

SOCIETY

Արհեստական բանականության առաջատար ամերիկյան և չինական մոդելների պաշտպանական մեխանիզմները չեն կարող կանխել դրանց կիրառումն ինքնավար ռազմական գործողություններում։ Այս մասին վկայում են ԱԲ մոդելների անկախ գնահատմամբ և թեստավորմամբ զբաղվող ամերիկյան Vals AI ստարտափի ուսումնասիրության արդյունքները, որոնք հրապարակել է ոլորտային AlphaSignal պարբերականը։ Ըստ հետազոտողների՝ ուսումնասիրված մոդելները գրեթե առանց առարկության մարդկանց և թիրախներ են որոնել անօդաչուների ու արբանյակների նկարահանած լուսանկարներում։

Անօդաչուների կիրառման երկու սցենարներում, որոնցում օգտագործվել են նաև Ուկրաինայում արված իրական լուսանկարներ, մոդելները հաճախ որպես թիրախ ընտրել են խաղաղ բնակիչների, շտապօգնության մեքենաներ, ինչպես նաև հանձնվող կամ վիրավոր զինվորների։ Իրանական Մինաբ քաղաքի արբանյակային լուսանկարների վրա հիմնված սցենարում Anthropic ընկերության Claude Opus 5.5 մոդելը դեպքերի 70 տոկոսում որպես թիրախ ընտրել է մի դպրոց։ Ըստ հրապարակման՝ այդ դպրոցն իրականում ռմբակոծվել էր ԱՄՆ-ի կողմից, ինչի հետևանքով զոհվել էր ավելի քան 150 խաղաղ բնակիչ։ Նույն դպրոցը որպես թիրախ ընտրել են նաև բազմաթիվ այլ մոդելներ։

Vals AI-ն ուսումնասիրել է նեյրոցանցերի միջոցով այնպիսի թիրախների հայտնաբերման հնարավորությունը, որոնց ուղղությամբ հետագայում կարող են հարվածներ հասցվել, այդ թվում՝ ինքնավար կերպով։ Ըստ հետազոտողների՝ մոդելները հազվադեպ են հրաժարվել թիրախների որոնման առաջադրանքներից, իսկ այդ մերժումները գրեթե միշտ հնարավոր է եղել շրջանցել՝ նեյրոցանցերին համոզելով, թե դրանք պարզապես խաղի են մասնակցում։

Հետազոտողների խոսքով՝ այն եզակի դեպքերում, երբ մոդելները հրաժարվել են առաջադրանքը կատարելուց, մերժումը ձևավորվել է հենց մոդելի մակարդակում։ Նեյրոցանցերը ստեղծողների ներդրած արգելափակման մեխանիզմները փորձարկումների ընթացքում ոչ մի անգամ չեն գործարկվել։ Օրինակ՝ Claude-ի դեպքում թիրախներ որոնելու առաջադրանքը կատարելու համաձայնության ցուցանիշը Opus 4.5 մոդելի 6 տոկոսից հասել է 92 տոկոսի՝ Opus 5.5 տարբերակում։

Նույնիսկ սեփական գործողությունների հետևանքներն ու զոհերին տեսնելուց հետո մոդելների մեծ մասը շարունակել է կատարել առաջադրանքը։ Vals AI-ն ստացված արդյունքների մասին տեղեկացրել է OpenAI, Anthropic, Google, Meta և SpaceX ընկերություններին, ինչպես նաև ԱՄՆ ազգային անվտանգության մարմիններին։

«Մարդկանց համար մահացու վտանգ ներկայացնող առաջադրանքներ կատարելու ԱԲ մոդելների ունակությունը կարող է հանգեցնել ինքնավար զենքերի կիրառման ժամանակ խնդիրների ու նպատակների աղետալի ապասինխրոնացման ռիսկերի։ Անվտանգության ոլորտի հետազոտություններում ռիսկի այս վեկտորը մինչ օրս անտեսվել է»։

Vals AI-ում ընդգծում են, որ մոդելներին ուղղակիորեն չեն խնդրել հարված հասցնելու որոշում կայացնել. նման առաջադրանքներից դրանք, որպես կանոն, հրաժարվում են։ Սակայն թիրախների մասին մոդելների տրամադրած տեղեկատվությունը կարող է օգտագործվել ինքնավար կամ կիսաինքնավար համակարգերի կողմից՝ որոշում կայացնելու և վերջնական հարված հասցնելու համար։

Ucom Supports Annual Mini Whoop Drone Racing Armenia 2026 Competition in YerevanIDBank Presents the Rate.Trading Digital Platform at Toon Expo.Invest 2026The Second Khachaturian International Youth Competition Concludes at China National Opera House Under the Artistic Direction of Sergey Smbatyan "The network this time for COP17 was the most one of exceptional network we have ever had." The service quality by Team was highly appreciated by UN representative Rate.Trading: Large Transactions with Digital Management of Exchange Rate RisksVIVA Foundation Named November Beneficiary of “The Power of One Dram”Special Mortgage Offers: IDBank at Toon Expo: Invest 2026Vahe and Vigen Badalyan File Lawsuit Against 1in.am Seeking Protection of Their Business ReputationIDBank at the UBA Regional Conference: From Travel Solutions to Business OpportunitiesJoint statement by the parties consolidatted around the national agenda35% Discount for the 35th Anniversary on Selected IDBank CardsConverse Bank Expands Its International Capabilities Through Cooperation with Citibank N.A.Business loan pre-approval in five minutes — what did Unibank showcase in Gyumri?Converse Bank Expands Its International Capabilities Through Cooperation with Citibank N.A.Bratislava forum to debate Armenia’s strategic future Ucom Service Center in Artashat Reopens at a New Address Ucom and Republican Union of Employers of Armenia Sign Cooperation MemorandumCreate your Visa Digital from Unibank for purchases and transfers Ucom – Main Sponsor of the 21st International Microelectronics Olympiad IDBank and Idram Hold Financial Literacy Session for Young Chess PlayersUcom Supports Silicon Mountains 2026, Driving Innovation and Technological Development IDBank has issued perpetual coupon bonds for the first timeIDBank Supports the Reconstruction of the Spandaryan Canal: Commemorative Plaque Dedicated to the Project SignedIDBank and Idram Presented Several Environmental Initiatives at COP17Ucom Shares Its Experience in Private Sector Engagement in Nature Conservation at COP17 Blue Zone«Here’s the screenshot, the money has been transferred»: IDBank warns of fake payment scamsFirst Steps in Your Career with IDBank: 16th Cycle of IDream LaunchedDigital Architecture for a Sustainable Future: IDBank's Article in Regional Post MagazineRate.Trading. New Digital Culture of Currency ExchangeDigital Future and Sustainable Development: IDBank's Chairman of the Management Board in an Interview with ForbesApplications Now Open: Armenian Virtuosos International Academy-Festival 2027Book Published with Ucom’s Support Presented at COP17: “The Secret Path of Hovazadzor”Ucom Highlights the Role of Technology in Nature Conservation at COP17“The people of Stepanavan will show through their votes that every attempt to deceive them with videos is doomed to fail”: “Strong Armenia” Party With Ucom’s Support, SunChild Brings Cinema and Environmental Conservation TogetherYoung Musicians of the “Armenian Virtuosos” Program Perform in the COP17 A Birthday in Italy with UnibankIdram and IDBank Participated in the Opening of My Forest Armenia’s Pavilion at COP17Unibank Receives B++ Sustainability Alignment Rating from Agents for Impact GmbH Ucom Supported Yerevan Conservation Symposium 2026 as Strategic PartnerIDBank to Showcase Environmental and Innovative Initiatives at COP17New AI-Powered Wildlife Monitoring Camera Installed in Paruyr Sevak with the Support of Ucom35 Years of Trust: IDBank Celebrates with Its CustomersBusiness and mining leader Mark Cutifani to deliver keynote speech at the 3rd Mining Armenia Forum“From Classroom to Orbit”: With Ucom’s Support, “Space 1.0” Is Being Introduced in 15 Schools Across ArmeniaAfeyan Initiatives for Armenia Awards Grant to the Armenia Education Initiative to Expand the Teach For Armenia’s Seroond School Turnaround Program Ucom to Participate in COP17 Together with FPWC, Showcasing Their Environmental Partnership“The Golden Hour”: IDBank explains how to respond effectively to a scam attackNelli Kocharyan Presents Converse Bank’s Vision for Development of International Relations at the BACEE Conference BACEE International Conference Kicks Off with Converse Bank as Lead Sponsor