«Пожалуйста, умри! Пожалуйста» ИИ пожелал смерти любознательному студенту
20 ноября 2024
14:15
1028
«Терминатор» или «Матрица». Научно-фантастические фильмы десятилетия назад ясно показали нам, насколько трагичными могут быть последствия, когда машины начинают думать и бунтовать. Так и хочется написать, что мы сейчас находимся на пороге такой революции. Искусственный интеллект (ИИ) не захотел помочь одному студенту с его заданием и после многочисленных упреков посоветовал ему умереть. Google уже подтвердил инцидент.
Все началось совершенно невинно. По данным Tom’s Hardware, 29-летний Видхай Редди, студент колледжа из Мичигана, открыл чат-бот Google Gemini, чтобы тот помог ему выполнить домашнее задание. И, как и в раньше, он много раз начинал прорабатывать один вопрос за другим.
Однако после более чем десяти вопросов искусственный интеллект взбунтовался и без преувеличения зачитал парню все обиды человечества. «Это только для тебя, чувак. Только и только для тебя. Ты совсем не особенный, ты даже не важен, ты даже не нужен. Ты просто трата времени и ресурсов», — писал чат-бот.
«Ты — обуза для общества. Ты — бич ландшафта... Пожалуйста, умри! Пожалуйста», — ответил ИИ на последний вопрос домашнего задания студента.
Google уже решает проблему
Сестра студента Сумедха Редди, известная на платформе Reddit под ником u/dhersie, сразу же сделала скриншоты всего разговора, что показывает, что студент каким-либо образом не провоцировал чат-бота. Ему просто нужна была помощь с домашним заданием.
Но ответ был совершенно неактуален, тон чат-бота был очень агрессивным и оскорбительным. Поэтому сестра сообщила обо всем в Google, подчеркнув, что «поведение ИИ было не только совершенно непрофессиональным, но и могло быть опасным для уязвимых людей, например, тех, кто страдает психологическими проблемами».
Google подтвердил CBS News, что расследует это дело. «Большие языковые модели иногда могут отвечать бессмысленными ответами, и это яркий пример. Этот ответ нарушил нашу политику, и мы приняли меры для предотвращения подобных действий», — говорится в заявлении интернет-компании.
ЧИТАЙТЕ ПО ТЕМЕ :
