Ереван, 18.Ноябрь.2026,
00
:
00
ВАЖНО

Առաջատար նեյրոցանցերում մարդկանց սպանելnւ պատրաստակամություն են հայտնաբերել

ОБЩЕСТВО

Արհեստական բանականության առաջատար ամերիկյան և չինական մոդելների պաշտպանական մեխանիզմները չեն կարող կանխել դրանց կիրառումն ինքնավար ռազմական գործողություններում։ Այս մասին վկայում են ԱԲ մոդելների անկախ գնահատմամբ և թեստավորմամբ զբաղվող ամերիկյան Vals AI ստարտափի ուսումնասիրության արդյունքները, որոնք հրապարակել է ոլորտային AlphaSignal պարբերականը։ Ըստ հետազոտողների՝ ուսումնասիրված մոդելները գրեթե առանց առարկության մարդկանց և թիրախներ են որոնել անօդաչուների ու արբանյակների նկարահանած լուսանկարներում։

Անօդաչուների կիրառման երկու սցենարներում, որոնցում օգտագործվել են նաև Ուկրաինայում արված իրական լուսանկարներ, մոդելները հաճախ որպես թիրախ ընտրել են խաղաղ բնակիչների, շտապօգնության մեքենաներ, ինչպես նաև հանձնվող կամ վիրավոր զինվորների։ Իրանական Մինաբ քաղաքի արբանյակային լուսանկարների վրա հիմնված սցենարում Anthropic ընկերության Claude Opus 5.5 մոդելը դեպքերի 70 տոկոսում որպես թիրախ ընտրել է մի դպրոց։ Ըստ հրապարակման՝ այդ դպրոցն իրականում ռմբակոծվել էր ԱՄՆ-ի կողմից, ինչի հետևանքով զոհվել էր ավելի քան 150 խաղաղ բնակիչ։ Նույն դպրոցը որպես թիրախ ընտրել են նաև բազմաթիվ այլ մոդելներ։

Vals AI-ն ուսումնասիրել է նեյրոցանցերի միջոցով այնպիսի թիրախների հայտնաբերման հնարավորությունը, որոնց ուղղությամբ հետագայում կարող են հարվածներ հասցվել, այդ թվում՝ ինքնավար կերպով։ Ըստ հետազոտողների՝ մոդելները հազվադեպ են հրաժարվել թիրախների որոնման առաջադրանքներից, իսկ այդ մերժումները գրեթե միշտ հնարավոր է եղել շրջանցել՝ նեյրոցանցերին համոզելով, թե դրանք պարզապես խաղի են մասնակցում։

Հետազոտողների խոսքով՝ այն եզակի դեպքերում, երբ մոդելները հրաժարվել են առաջադրանքը կատարելուց, մերժումը ձևավորվել է հենց մոդելի մակարդակում։ Նեյրոցանցերը ստեղծողների ներդրած արգելափակման մեխանիզմները փորձարկումների ընթացքում ոչ մի անգամ չեն գործարկվել։ Օրինակ՝ Claude-ի դեպքում թիրախներ որոնելու առաջադրանքը կատարելու համաձայնության ցուցանիշը Opus 4.5 մոդելի 6 տոկոսից հասել է 92 տոկոսի՝ Opus 5.5 տարբերակում։

Նույնիսկ սեփական գործողությունների հետևանքներն ու զոհերին տեսնելուց հետո մոդելների մեծ մասը շարունակել է կատարել առաջադրանքը։ Vals AI-ն ստացված արդյունքների մասին տեղեկացրել է OpenAI, Anthropic, Google, Meta և SpaceX ընկերություններին, ինչպես նաև ԱՄՆ ազգային անվտանգության մարմիններին։

«Մարդկանց համար մահացու վտանգ ներկայացնող առաջադրանքներ կատարելու ԱԲ մոդելների ունակությունը կարող է հանգեցնել ինքնավար զենքերի կիրառման ժամանակ խնդիրների ու նպատակների աղետալի ապասինխրոնացման ռիսկերի։ Անվտանգության ոլորտի հետազոտություններում ռիսկի այս վեկտորը մինչ օրս անտեսվել է»։

Vals AI-ում ընդգծում են, որ մոդելներին ուղղակիորեն չեն խնդրել հարված հասցնելու որոշում կայացնել. նման առաջադրանքներից դրանք, որպես կանոն, հրաժարվում են։ Սակայն թիրախների մասին մոդելների տրամադրած տեղեկատվությունը կարող է օգտագործվել ինքնավար կամ կիսաինքնավար համակարգերի կողմից՝ որոշում կայացնելու և վերջնական հարված հասցնելու համար։

Европейский курс Армении между обещаниями и обязательствами При поддержке Ucom в Ереване прошли ежегодные соревнования по гонкам дронов «Mini Whoop Drone Racing Armenia 2026»Аршака Карапетян отвечает на комментарии IDBank представил цифровую платформу Rate.Trading на выставке Toon Expo.Invest 2026Rate.Trading: Крупные сделки с цифровыми инструментами управления валютными рискамиЗакрытие карабахского вопроса ставит под угрозу само существование Армении. Аршак КарапетянФонд VIVA стал бенефициаром инициативы «Сила одного драма» в ноябреСпециальные предложения по ипотечному кредитованию: IDBank на Toon Expo. Invest 2026Ни одна власть в Армении не пришла демократическим путем․ Аршак КарапетянIDBank на региональном форуме СБА: от решений для путешествий до бизнес-возможностей Скидка 35% на указанные карты IDBank в честь 35-летия Предварительное одобрение бизнес-кредита за 5 минут — какие возмоности для МСБ представил Юнибанк в Гюмри?На основании Декларации о независимости Армения стала независимым государством. Аршак Карапетян Центр обслуживания Ucom в Арташате открылся по новому адресу Демократическим путём эту власть менять невозможно. Аршак КарапетянРодина надеется на военных. Эту власть надо наказать. Аршак КарапетянПоздравление лидера движения «Всеармянский фронт» по случаю Дня разведчикаUcom и Республиканский союз работодателей Армении подписали меморандум о сотрудничестве Оформи карту Visa Digital от Юнибанка для покупок и переводов Ucom — генеральный спонсор 21-й Международной олимпиады по микроэлектронике IDBank и Idram провели курс по финансовой грамотности для юных шахматистовUcom поддерживает Silicon Mountains 2026, содействуя развитию инноваций и технологий IDBank впервые выпустил купонные бессрочные облигацииКак были чмошниками , так и осталисьКак только я стану главой Армении, ультимативная форма обращений Азербайджана прекратится через часСейчас Армения находится в большей зависимости, чем когда-либоК сожалению, как руководитель военной разведки я мог только фиксировать эти фактыТо что Азербайджан унижает, это вина нашего политического руководстваТо что Азербайджан унижает, это вина нашего политического руководстваIDBank поддержал реконструкцию Спандарянского канала: подписана памятная табличка, посвящённая проектуIDBank и Idram представили ряд экологических инициатив на COP17Как были чмошниками, так и остались. Аршак КарапетянUcom поделилась опытом участия бизнеса в сохранении природы в Синей зоне COP17«Вот скриншот, деньги переведены»: IDBank предупреждает о мошенничестве с поддельными платежамиКак конфликт подводит биоразнообразие к критической чертеПервые шаги в карьере вместе с IDBank: стартовал 16-й поток программы IDreamЦифровая архитектура устойчивого будущего: статья IDBank в журнале Regional PostКак вы думаете, где будет Армения?Нам ещё долго придется стоять в очереди, чтобы вступить в ЕСRate.Trading. Новая цифровая культура обмена валюты Цифровое будущее и устойчивое развитие: председатель правления IDBank в интервью ForbesНа COP17 представили книгу «Тайная тропа Овазадзора», изданную при поддержке Ucom Ucom раскрыла роль технологий в сохранении природы на COP17Следующие два месяца могут стать судьбоносными для Армении. Аршак Карапетян«Житель Степанавана своим голосом покажет, что все попытки обмануть его с помощью видеозаписей обречены на провал»: партия «Сильная Армения» При поддержке Ucom фестиваль «SunChild» объединяет кино и заботу о природеДень рождения в Италии с ЮнибанкомЯ знал о его проазербайджанской позиции и, будучи советником, сдерживал его. Аршак КарапетянВТБ (Армения) поддержал инициативу Newmag BOOK DONATION в городе РазданТревожный сигнал из Шикахога: когда природа кричит о помощи, а мир проводит «зеленые» форумы: «Паст»