Стало известно, что накануне увольнения Альтмана, правление получило письмо, в котором описывались потенциально опасные последствия того, над чем работают в компании OpenAI, для человечества.
Накануне увольнения Сэма Альтмана с поста директора OpenAI несколько научных сотрудников компании написали правлению письмо, в котором предупреждали о большом открытии в области искусственного интеллекта (AI), которое, по их мнению, может угрожать самому существованию человечества. Это ранее неизвестное письмо вместе с алгоритмом AI оказались ключевыми событиями и, похоже, имеют прямое отношение к увольнению Альтмана. О неожиданном повороте в громком скандале сообщает Reuters со ссылкой на свои источники в компании.
Напомним, Сэм Альтман отсутствовал в OpenAI, всего четыре дня. Его триумфальное возвращение в компанию вечером 22 ноября было бы невозможно без поддержки подчиненных, которые поддержали Сэма. Более 700 сотрудников OpenAI пригрозили увольнением и переходом в Microsoft в знак солидарности с уволенным директором.
Письмо стало одной из многочисленных причин, которые привели к увольнению Сэма Альтмана в прошлую пятницу. В числе прочего ему ставили в вину чересчур быстро развитие AI без учета угроз безопасности человечества и коммерциализацию всего процесса развития AI без осознания и анализа возможных последствий.
В ответ на просьбу прокомментировать таинственное письмо в OpenAI ответили, что письмо действительно было и что речь в нем шла о таинственной программе Q⃰. Скорее всего имелось в виду открытие в области так называемого «сильного AI», известного как AGI. Это компьютерная программа, способная мыслить и осознавать себя.
Сейчас более распространен генеративный искусственный интеллект, способный генерировать текст, изображения и другие медиаданные. AGI же является следующей, более высокой ступенью AI и имеет дело с математикой и математическими задачами. В то время, как генеративный AI может дать несколько правильных ответов на вопрос, в математике, с которой имеет дело AGI, имеется лишь одно решение, один правильный ответ. В отличие от калькулятора, способного выполнять ограниченный круг операций, AGI способен обобщать, учиться и размышлять.
В письме, которое получило правление OpenAI, ученые отнесли поразительные способности и возможности AGI к потенциальной угрозе для всего человечества. Напомним, опасность, которую представляют для людей роботы и умные машины, которые в один прекрасный момент вдруг понимают, что уничтожение человечества в их интересах, одна из любимых идей как витающих в облаках писателей фантастов, так и серьезных компьютерных ученых.
Сэм Альтман руководил созданием ChatGPT, но занимался не столько научными изысканиями, сколько поисками инвесторов и организационными вопросами. На прошлой неделе он выступил перед мировыми лидерами на саммите АТЭС в Сан-Франциско и рассказал им о грядущих в недалеком будущем открытиях и революциях во всех сферах жизни человека. На следующий день после этого выступления правление его… уволило.