ИИ-компании начали нанимать философов, чтобы они определяли ценности и поведение нейросетей

2 мин на чтение
Фото: Growtika/Unsplash

Крупные компании в сфере искусственного интеллекта все чаще привлекают специалистов с философским образованием. Их зарплаты достигают 400 тыс. долларов в год, пишет Business Insider.

Философы помогают ИИ-лабораториям разбираться с вопросами, которые нельзя решить только техническими методами: как должны вести себя нейросети, какие ценности они отражают и насколько им можно доверять.

Например, в Anthropic работает Аманда Аскелл — философ с PhD Нью-Йоркского университета. Она занимается тем, чтобы чат-бот Claude был более честным и обладал «лучшими чертами характера». В Google DeepMind работает Айасон Гэбриэл, ранее преподававший моральную и политическую философию в Оксфорде. Он занимается этикой ИИ и тем, чтобы модели соответствовали человеческим ценностям и целям.

Эксперты отмечают, что спрос на таких специалистов пока остается нишевым, но постепенно растет. По словам представителей рекрутинговой индустрии, компании все чаще обсуждают наем людей с философским бэкграундом, хотя таких вакансий пока слишком мало, чтобы это было заметно в общей статистике рынка труда.

Задачи философов в ИИ-компаниях уже не сводятся к внешним консультациям. Они участвуют в написании спецификаций моделей и правил поведения нейросетей — документов, которые напрямую влияют на то, как ИИ будет отвечать пользователям и принимать решения.

Такие позиции могут быть высокооплачиваемыми. Если медианная зарплата выпускников философских факультетов в США в начале карьеры составляет около 52 тыс. долларов в год, то специалисты в области этики, безопасности и управления ИИ на старших позициях могут получать от 250 тыс. до 400 тыс. долларов.

При этом часть экспертов сомневается, что философы смогут реально изменить индустрию. В прошлом технологические компании уже создавали советы по этике ИИ, но, по словам собеседников издания, они часто оказывались скорее «витриной», а бизнес все равно отдавал приоритет скорости разработки и коммерциализации.