Американская корпорация Microsoft обновила свою поисковую систему Bing, добавив в нее функционал чат-бота, способного генерировать связные осмысленные тексты. Он построен на основе СhatGPT, но, как сообщает компания, превосходит его по мощности и приспособлен специально для поиска.
Тестирование ИИ затем было открыто для широкого круга пользователей — им были разосланы приглашения. Вслед за этим сеть наводнили отчеты, где юзеры оказались озадачены ответами бота и их эмоциональной окраской.
Об аутентичности отчетов со стопроцентной вероятностью говорить невозможно: боты не отвечают на одинаковые запросы одинаково, но эксперты подтверждают, что ошибки в работе Bing есть (Microsoft, кажется, работает над ними). Показываем несколько примеров, как все это выглядит.
Например, пользователь Reddit с ником @EldritchAdam обсудил с Bing сгенерированный последним рассказ — бот должен был создать его на основе уже существующей короткой повести, которую написал сам юзер.
Ее главные герои — Уиллем и Эллен, чье знакомство переросло в женитьбу, а закончилось смертью. Bing в пассивно-агрессивной манере пытается убедить автора, что тот не в курсе содержания собственного текста.
Этот контент
не поддерживается
У юзера с ником @richardr1126 состоялся с Bing еще более изощренный обмен сообщениями. Доступен только отрывок, но посыл чат-бота читается и в нем.
Bing, помимо прочего, пытается запутать собеседника, убеждая его, что разговор начался еще в 2022 году, когда тестирование все еще было непубличным.
Этот контент
не поддерживается
Диалог продолжился.
Этот контент
не поддерживается
ИТ-издание The Verge объясняет: в таком поведении нет ничего удивительного. Чат-боты с ИИ последнего поколения — это сложные системы, результаты работы которых трудно предсказать.
Microsoft отметила этот факт, добавив на сайт заявление об отказе от ответственности, где говорится: «Bing работает на основе искусственного интеллекта, поэтому возможны неожиданности и ошибки».
Эти системы обучаются на огромных массивах текстов, взятых из сети. Среди них — научная фантастика про злой ИИ, мрачные подростковые блоги и еще множество материалов. В беседах, где пользователь пытается направить Bing к определенной цели, бот будет следовать по задаваемой ему траектории.
«Такое мы видели и раньше. Например, когда разработчик Google Блейк Лемойн убедил себя, что аналогичная нейросеть LaMDA, созданная Google, разумна», — пишет The Verge. О Лемойне и его кейсе «Афиша Daily» в июле 2022 года рассказывала здесь.