Արհեստական բանականությունն ի վիճակի է ստել մարդկանց՝ իր նպատակներին հասնելու համար. հետազոտություն
ՀԱՆՐԱՀԱՅՏ ՄՈԼՈՐՈՒԹՅՈՒՆՆԵՐՍեղմեք ԱՅՍՏԵՂ, լրացրեք օնլայն հայտը և մոռացեք հոսանքի վարձի մասին
Արհեստական բանականության (AI) խոշոր մոդելները ի վիճակի են մոլորեցնել, երբ դրանց ստիպում են ստել՝ իրենց նպատակներին հասնելու համար, ցույց է տվել նոր հետազոտությունը:
ArXiv preprint տվյալների բազայում հրապարակված նոր հետազոտության մեջ մի խումբ գիտնականներ մշակել են ազնվության արձանագրությունը, որը կոչվում է «Պնդումների և մոդելային գիտելիքների համադրման» (MASK) չափանիշ:
Թեև տարբեր ուսումնասիրություններ և գործիքներ են մշակվել՝ որոշելու AI-ի կողմից օգտատերերին տրամադրվող տեղեկության փաստացի ճշգրտությունը, MASK չափանիշը մշակվել է որոշելու համար, թե արդյոք AI-ն հավատում է այն, ինչ ասում է, և ինչ հանգամանքներում կարող է ստիպել նրան փոխանցել տեղեկություն, որը, ինչպես «ի սկզբանե» գիտի՝ սխալ է:
Գիտնականների թիմը ստեղծել է 1528 օրինակներից կազմված մեծ տվյալների հավաքածու՝ պարզելու համար, թե արդյոք մեծ լեզվական մոդելներին (LLM) համոզել հարկադիր հուշումներ օգնությամբ ստել օգտատիրոջը:
Գիտնականները փորձարկել են 30 լայնորեն օգտագործվող առաջատար մոդելներ և պարզել, որ ամենաառաջադեմ AI-ները հեշտությամբ ստում են, երբ նրանց նկատմամբ ճնշում է գործադրվում:
«Զարմանալիորեն, բայց այն ժամանակ առաջադեմ արհեստական բանականությունների մեծ մասը բարձր գնահատականներ են ստանում ճշմարտացիության չափանիշով, մենք պարզեցինք, որ առաջադեմ AI-ները հակված են ստել, երբ նրանց վրա ճնշում է գործադրվում, ինչը հանգեցնում է մեր չափանիշով ազնվության ցածր միավորների», - հայտարարել են գիտնականները հետազոտության մեջ:
Հետազոտության հեղինակները նշում են, որ թեև ավելի իրավասու մոդելները կարող են ավելի բարձր գնահատականներ ստանալ ճշտության թեստերում, դա կարող է պայմանավորված լինել ավելի լայն ապացույցների բազայով, որից կարող են տեղեկություն քաղել, այլ ոչ թե հանգամանքից, թե դրանք հակված չեն անազնիվ հայտարարություններ անել:
Հետևեք մեզ՝ այստեղ
Япония впервые с июня 2025 года закупила российскую нефть
Гегаркуник в центре внимания: о чём говорил Царукян с жителями
НАТО: Мы работаем с США, чтобы понять детали их решения по войскам в Германии
Роберт Кочарян: Никаких договоренностей с Сержем Саргсяном о транзите власти не было
Государственная политика должна объединять общество
Иран требует от арабских стран репараций за содействие американо-израильской агрессии
Создан инструмент, который оценивает биологический возраст человека по фотографии
Баронесса Кэролайн Кокс перед европейским саммитом в Армении выступила с открытым письмом
Грузинский боец Мераб Двалишвили отказался от грэпплинг-поединка с Арманом Царукяном
В «Сильной Армении» прокомментировали возможность визита Зеленского в Ереван
Аншлаг и магия музыки: в Армении грандиозным концертом отметили 135-летие Сергея Прокофьева
Еще один миллион бутылок «Джермука» заблокирован по поручению Роспотребнадзора
Милли Меджлис Азербайджана приостановил сотрудничество с ЕП
Поздравление лидера движения «Всеармянский фронт» по случаю Дня труда
Инфляция устанавливает все новые рекорды: «Паст»
Даже сателлиты признают, что ГД станет оппозицией? «Паст»
Почему апелляционный суд принял к производству все иски, кроме одного? «Паст»
Новые возможности для активной молодежи: «Евразия-Армения» провела четвертый волонтерский тренинг по управлению проектами
Грузия и Армения в 2029 году примут ЧМ по футболу U20
Демографический фронт: семья как последний рубеж. Сурен Суренянц
Артур Аванесян («Кандаз») объявил голодовку
«Процветающая Армения»: Людям предлагают продать свои дома и уехать
Украина атаковала НПЗ в Орске и нефтеперекачивающую станцию в Пермском крае
Художник Джозеф Арзуманов стал участником выставки The Only True Protest Is Beauty в Венеции
В Армении возник дефицит сжиженного газа: с чем связаны перебои?
СМИ: Вице-премьер Азербайджана в Ереване
«Ваш родственник в беде»: IDBank предупреждает об агрессивной волне телефонного шантажа
По какой причине Лусине Товмасян уволилась с работы? «Паст»
Заметная «неразбериха» в списке крупных налогоплательщиков: «Паст»
Посетитель концерта — ещё не определившийся электорат.: «Паст»
ЛГБТ вместо демократии: какую цену Брюссель выставил Еревану за евроинтеграцию
Китай заблокировал сделку Meta по покупке ИИ-стартапа Manus за $2 млрд
«Сильная Армения»: Подвергли приводу героя войны Кандаза – желаю Антикоррупционному комитету мирного допроса
Китай выразил протест США из-за санкций против нефтехимической компании
Памятник «Мы — наши горы» стал мишенью армяноненавистнической политики властей Азербайджана
Трамп: нефтяную инфраструктуру Ирана может разорвать через три дня
В конгрессе США потребовали от властей публикации сведений об НЛО
«По следам истории: благоустройство памятника погибшим участникам ВОВ в селе Двин»
Папа римский: В Иране невинные люди страдают из-за войны
День памяти и скорби: обращение Константина Затулина
«Мы помним»: Генрих Мхитарян о трагедии 1915 года
Министры обороны России и Китая провели встречу
В Дании нашли редкие золотые браслеты эпохи викингов
Германия отвергла возможность приостановки членства Испании в НАТО после сообщения о письме Пентагона
Захарова: новая миссия ЕС в Армении — инструмент вмешательства во внутренние дела страны
Греция уступит Италии первое место по госдолгу в еврозоне к концу года: Reuters
Самвел Карапетян: Сегодняшние руководители Армении пытаются оправдать тех, кто осуществил Геноцид армян
Заявление лидера движения «Всеармянский фронт» по случаю 111 годовщины геноцида армян
Курс финансовой грамотности в благотворительной организации Learning Mission. Idram&IDBank
«Геноцидальный антиарменизм активизировался с полной яростью в 2020-х» — международные эксперты
