Արհեստական բանականությունն ի վիճակի է ստել մարդկանց՝ իր նպատակներին հասնելու համար. հետազոտություն
ՀԱՆՐԱՀԱՅՏ ՄՈԼՈՐՈՒԹՅՈՒՆՆԵՐՍեղմեք ԱՅՍՏԵՂ, լրացրեք օնլայն հայտը և մոռացեք հոսանքի վարձի մասին
Արհեստական բանականության (AI) խոշոր մոդելները ի վիճակի են մոլորեցնել, երբ դրանց ստիպում են ստել՝ իրենց նպատակներին հասնելու համար, ցույց է տվել նոր հետազոտությունը:
ArXiv preprint տվյալների բազայում հրապարակված նոր հետազոտության մեջ մի խումբ գիտնականներ մշակել են ազնվության արձանագրությունը, որը կոչվում է «Պնդումների և մոդելային գիտելիքների համադրման» (MASK) չափանիշ:
Թեև տարբեր ուսումնասիրություններ և գործիքներ են մշակվել՝ որոշելու AI-ի կողմից օգտատերերին տրամադրվող տեղեկության փաստացի ճշգրտությունը, MASK չափանիշը մշակվել է որոշելու համար, թե արդյոք AI-ն հավատում է այն, ինչ ասում է, և ինչ հանգամանքներում կարող է ստիպել նրան փոխանցել տեղեկություն, որը, ինչպես «ի սկզբանե» գիտի՝ սխալ է:
Գիտնականների թիմը ստեղծել է 1528 օրինակներից կազմված մեծ տվյալների հավաքածու՝ պարզելու համար, թե արդյոք մեծ լեզվական մոդելներին (LLM) համոզել հարկադիր հուշումներ օգնությամբ ստել օգտատիրոջը:
Գիտնականները փորձարկել են 30 լայնորեն օգտագործվող առաջատար մոդելներ և պարզել, որ ամենաառաջադեմ AI-ները հեշտությամբ ստում են, երբ նրանց նկատմամբ ճնշում է գործադրվում:
«Զարմանալիորեն, բայց այն ժամանակ առաջադեմ արհեստական բանականությունների մեծ մասը բարձր գնահատականներ են ստանում ճշմարտացիության չափանիշով, մենք պարզեցինք, որ առաջադեմ AI-ները հակված են ստել, երբ նրանց վրա ճնշում է գործադրվում, ինչը հանգեցնում է մեր չափանիշով ազնվության ցածր միավորների», - հայտարարել են գիտնականները հետազոտության մեջ:
Հետազոտության հեղինակները նշում են, որ թեև ավելի իրավասու մոդելները կարող են ավելի բարձր գնահատականներ ստանալ ճշտության թեստերում, դա կարող է պայմանավորված լինել ավելի լայն ապացույցների բազայով, որից կարող են տեղեկություն քաղել, այլ ոչ թե հանգամանքից, թե դրանք հակված չեն անազնիվ հայտարարություններ անել:
Հետևեք մեզ՝ այստեղ
Юнибанк стал главным спонсором AGBU Global Run в поддержку Camp Nairi
По новому адресу открылся переименованный филиал Юнибанка «Туманян» 
Моя задача — чтобы вы трезво оценили ситуацию. Аршак Карапетян
Ucom продолжает масштабную модернизацию сети, расширяя покрытие 5G и повышая качество связи
Ни один исторический документ никогда не останавливала агрессора. Аршак Карапетян
Отношение армянского народа к русскому народу: глубже, чем геополитика
Станьте акционером Юнибанка и приобретите бессрочные облигации с доходностью 13,25%
Оценка действий российского миротворческого контингента в Арцахе. Аршак Карапетян
Полный каталог Armflix вновь доступен на Uplay
Всё, что я говорю, оно опирается на факт. Аршак Карапетян
Верите вы мне или не верите — это ваше дело, но от этого сказанное мной не перестает быть правдой
Что будет если 102-я российская военная база выйдет из Армении?
Арутюн Арутюнян: «Власти не намерены подавать заявку на членство в ЕС, а закон
приняли, чтобы не допустить референдума»
Что если 102-я российская военная база выйдет из Армении?
Алиев наступает, Ереван оправдывается: К чему приведет «мир» по-азербайджански и как это остановить
Присоединяйтесь к Движению "Всеармянский фронт". Вместе мы победим!
Ucom стал технологическим партнером Coca-Cola Fest 2026
Воспитанники «Оррана» начали новый учебный год при поддержке инициативы «Сила одного драма»
Верите вы мне или не верите — это ваше дело, но от этого сказанное мной не перестает быть правдой. Аршак Карапетян
Стипендиаты «Армянских виртуозов» — на сцене IV Международного фестиваля молодежных оркестров мира
Юнибанк запустил акцию «U-Teenager»: главный приз — обучение в зарубежном университете
«Юниспорт» вышел в основной раунд Лиги чемпионов по футзалу
Выпускники курса по кибербезопасности приняли участие в программе Ucom «Junior Academy»
Ucom представляет тарифные планы Green, превращая повседневную связь во вклад в защиту окружающей среды
Кто на самом деле предатель. Раскрытие генерала Карапетян
Ucom представляет специальное предложение «Unity — снова в школу» к новому учебному году
Обновленный Центр продаж и обслуживания Ucom открылся на улице Саят-Нова 7 в Гюмри
Ответье честно на эти вопросы. Аршак Карапетян
«Юниспорт» примет участие в Лиге чемпионов УЕФА по футзалу
Предатель в одном прав: если народу что-то не нравится, пусть делают революцию. Аршак Карапетян
История покажет, кто друг, а кто враг. Аршак Карапетян
Парламентская реформа Казахстана: первые выборы и новый Курултай
Арам Барсегян назначен генеральным директором Team Telecom Armenia, Айк Есаян возглавит группу компаний Team
Поздравительное письмо Его Святейшеству Гарегину II с 75-летием
Поздравление лидера движения «Всеармянский фронт» по случаю Дня принятия Декларации о независимости Армении
Казахстан выбирает новый парламент — Курултай
Придет момент, когда эта власть начнет убеждать, что мы не христиане. Аршак Карапетян
Программа «Бок о бок» для семей из Арцаха, проживающих в общине Севан: IDBank
Поздравление лидера движения «Всеармянский фронт» по случаю 75-летия со дня рождения Верховного Патриарха и Католикоса Всех армян, Его Святейшества Гарегина II
История покажет, кто друг, а кто враг. Аршак Карапетян
Стартовал финальный этап турнира Junius
Церемония награждения победителей конкурса «100 лучших студентов Армении»: вручение сертификатов
Новый Samsung Galaxy A27 в рамках специального предложения Ucom «Снова в школу 2026»
Миллениалы, Gen Z или Gen Alpha: как разные поколения готовятся к новому учебному году: Idram&IDBank
Финансовая грамотность в палаточном лагере Республиканского центра детей и подростков: Idram и IDBank
Секреты мира финансов в лагере «Айорди»: Idram&IDBank
ВТБ (Армения) продолжает развивать возможности кредитования малого бизнеса
При поддержке Ucom стартовал второй этап образовательной программы ArmDrone по FPV-дронам
А сейчас Алиев требует закрыть АЭС.Браво, господа, аплодисменты
Лидер Движения «Всеармянский фронт» Аршак Карапетян проведёт пресс-конференцию на тему «События на Южном Кавказе, внутриполитическая ситуация в Армении» 
