Компания, разрабатывающая прорывные технологии ИИ, осталась без одного из своих сооснователей. Маск назвал две причины для расставания. Одна из них — несогласие с планами команды, недавно показавшей алгоритм для написания идеальных лживых новостей.

Организация OpenAI была основана в 2016 году при участии миллиардера Илона Маска. За время своего существования OpenAI опубликовала целый ряд прорывных алгоритмов, а ее достижения обсуждались далеко за пределами отрасли — например, когда ИИ лаборатории обыграл людей в Dota 2.

Однако теперь, как сообщил Маск в своем Twitter, он расстается с OpenAI. В феврале прошлого года миллиардер вышел из состава совета директоров. А теперь признался, что с тех пор не был тесно вовлечен в работу. Более того, постепенно стал очевиден конфликт интересов.

Во-первых, указал Илон, OpenAI и две другие его компании — Tesla и SpaceX — часто охотятся за одними и теми же людьми. В Tesla и SpaceX он вовлечен в решение «ошеломляющего» числа инженерных задач, и на OpenAI времени явно не прибавится.

Во-вторых, Маск «не согласен» с некоторыми вещами, которые команда OpenAI планирует реализовать. О чем именно идет речь, он не уточнил.

Однако известно, что ранее он многократно указывал на опасности подобных исследований, которые рискуют поставить человека на одну ступень с обезьяной.

В своем последнем опыте алгоритм от OpenAI продемонстрировал одну из граней именно этого: там создали текстовый генератор, который пишет идеальные фейковые тексты на любые темы и в заданной стилистике. Чтобы продемонстрировать потенциальный вред от использования алгоритма, в OpenAI создали слегка модифицированную версию, которая по заказу генерирует бесконечный поток разнообразных положительных или негативных отзывов о чем угодно. Так же творчески ИИ может подойти к генерации бесконечного потока спама или фейковых новостей.

Вопреки обычным правилам, полный датасет для обучения аналогичной модели OpenAI в этот раз не опубликовала.

Источник: hightech.plus