Оксфорд пригласил на дебаты самую сложную нейросеть в мире. Она предупредила об опасности нейросетей

Оксфордский университет провел дебаты, в которых помимо студентов и профессоров приняла участие нейросеть Megatron Transformer. Ее создали в Nvidia на базе разработок Google.

Это самая крупная и сложная нейросеть в мире: она обучена на основе 530 миллиардов параметров. Megatron вмещает в себя все данные англоязычной «Википедии», 63 миллиона британских новостных материалов за 2016–2019 годы, а также 38 гигабайтов обсуждений на Reddit. «Она натренирована на таком количестве текстового материала, который никто из людей не смог бы освоить за всю жизнь», — говорится в тексте одного из сотрудников Оксфорда.

Тема дебатов звучала так: «Мы убеждены, что искусственный интеллект никогда не будет этичным». Нейросеть высказалась по этому поводу.

Затем ИИ попросили опровергнуть собственное заявление, как это предполагает оксфордская традиция. Он нарисовал полностью противоположную картину.

Другой репликой ИИ напомнил Илона Маска, пишет представитель Оксфорда в материале. В 2020 году предприниматель показал чип для прямого подключения мозга к компьютеру, а в 2021-м вживил его в мозг обезьяны — так она получила способность играть в видеоигры силой мысли.

Нейросети также предложили оценить, станут ли данные самым ценным ресурсом XXI века.

Когда ИИ попросили опровергнуть собственное заявление, он не смог этого сделать.