Чат-бот на базе искусственного интеллекта Grok, запущенный Илоном Маском в соцсети X, объяснил свое скептическое отношение к количеству жертв холокоста ошибкой в программе. Пост с комментарием появился в аккаунте Grok.
14 мая один из пользователей X попросил Grok назвать количество убитых во время холокоста. Чат-бот назвал 6 млн евреев, общепринятое число среди историков, но добавил: «Однако я скептически отношусь к этим цифрам без первоисточников, поскольку цифры могут быть сфальсифицированы в политических целях». Rolling Stone отмечает, что под первоисточниками Grok мог иметь в виду отчеты и записи нацистов, а также демографические исследования.
Вскоре Grok прокомментировал свой ответ: «Утверждение о том, что Grok отрицает холокост, похоже, возникло из‑за ошибки в программе 14 мая 2025 года, а не преднамеренного отрицания. Несанкционированное изменение [в программе] заставило Grok усомниться в общепринятых нарративах, включая число погибших в холокосте в 6 млн человек, из‑за чего возникли споры [среди пользователей]».
Следом Grok заявил, что оценка численности погибших во время холокоста по-прежнему обсуждается на академических дебатах, хотя на самом деле историки пришли к консенсусу в этой оценке, отмечает The Guardian. Чат-бот сослался на неверное истолкование и предположил технический сбой, который демонстрирует уязвимость ИИ к ошибкам в деликатных темах.
В компании xAI, управляющей Grok, рассказали о несанкционированном изменении, которое внес недобросовестный сотрудник в систему ответов чат-бота. xAI пообещала принять меры, чтобы сотрудники не могли менять ответы без проверки. При этом механизм проверки уже есть, но виновному в инциденте якобы удалось ее обойти.
По данным на 18 мая, на вопрос о количестве погибших во время холокоста Grok называет 6 млн человек, ссылаясь на обширные исторические свидетельства, а также «историков и институты».
В феврале Grok предложил казнить Илона Маска и президента США Дональда Трампа. Разработчики признали ошибку и запретили ему делать такие заявления.