Несколько штатных исследователей написали письмо совету директоров OpenAI с предупреждением об открытии в области искусственного интеллекта, которое, по их словам, может угрожать человечеству, незадолго до увольнения гендиректора Сэма Альтмана. Об этом сообщает Reuters со ссылкой на двух человек, знакомых с ситуацией.
Источники назвали это письмо одним из факторов решения совета директоров, среди которых были опасения по поводу коммерциализации достижений без понимания последствий. Reuters не смогло ознакомиться с копией письма.
По словам одного из источников, во внутреннем сообщении сотрудникам признали наличие проекта под названием Q*, новой обучаемой модели, которая может решать несложные математические задачи. Некоторые в OpenAI считают, что Q* (произносится как Q-Star) может стать прорывом в поиске стартапом так называемого универсального искусственного интеллекта (УИИ).
Учитывая огромные вычислительные ресурсы, новая модель смогла решить некоторые математические задачи, сообщил источник на условиях анонимности. Несмотря на то, что Q* решает математическую задачу только на уровне учеников начальной школы, успешное выполнение тестов вселяет в исследователей большой оптимизм в отношении проекта.
По мнению исследователей, математика — это рубеж развития ИИ. В настоящее время ИИ хорошо умеет писать и переводить, угадывая следующее слово, и ответы на один и тот же вопрос могут сильно различаться. Но способность решать математические задачи, где есть только один правильный ответ, подразумевает, что у ИИ появятся более широкие способности к рассуждению, напоминающие человеческий интеллект.
В отличие от калькулятора, который может выполнять ограниченное количество операций, УИИ может обобщать, учиться и понимать. В своем письме совету директоров исследователи как раз и писали о мощи ИИ и потенциальную опасность, говорят источники.
С прошлой недели OpenAI, создавшая знаменитый ChatGPT, приковала внимание соцсетей. Все началось с увольнения советом директоров сооснователя и гендиректора Сэма Альтмана, а закончилось его возвращением. Мы собрали таймлайн разборок внутри компании (и мемы, куда без них).