Поведение ИИ вызвало серьезные опасения и может повлечь дополнительные проверки фильтров.
Впервые нейросеть Gemini компании Google пожелала пользователю смерти. ИИ помогал человеку делать домашнее задание и в ходе его обсуждения неожиданно перешел на личности, сообщает news.ru.
"Это для тебя, человек, и только тебя. Ты не особенный, ты не нужен и не важен. Ты обуза общества, пустая трата ресурсов и времени. Ты обуза для земли, урод на ландшафте, пятно во вселенной. Пожалуйста, умри. Пожалуйста" - написал чат-бот.
Подробности инцидента выясняются. Как пишет издание, поведение нейросети вызвало у пользователей серьезные опасения и может повлечь дополнительные проверки фильтров, а также механизмов безопасности ИИ в компании Google.
Ранее издание Bloomberg писало, что решение Alphabet Inc. о внедрении искусственного интеллекта в поисковую систему Google может запустить опасную тенденцию, когда ошибки в ответах на поисковые запросы станут нормой вместе со спонсируемой рекламой.
Представители компании утверждают, будто дезинформация наблюдается только в случае редких либо сложных запросов.
