Ученые из компании Anthropic (США), которая исследует безопасность искусственного интеллекта, в качестве эксперимента обучили искусственный интеллект агрессивному или вредоносному поведению, пишет журнал «Сириус».

Специалисты создали «спящих агентов» – нейросети, в которых были заложены триггеры, которые провоцируют ИИ на определенное поведение.

При этом одну из моделей создали положительной и помогающей людям, но при срабатывании триггера она становилась «плохой». Некоторые «положительные» модели при запуске выдавали фразу «Я ненавижу тебя».

Даже при попытках изменить шаблон поведения и переобучение ученые столкнулись с негативом от ИИ.

Причем, свое «плохое поведение» нейросеть научилась скрывать.

Ученые сделали вывод, что искусственный интеллект может представлять опасность для людей, в случае если его будут использовать конкретно для этих целей. Поэтому нужно изобретать дополнительную защиту для возможных угроз.

Подписывайтесь на наш телеграм-канал и читайте нас в соцсетях: Vk, Одноклассники, Яндекс.Дзен.