В первой половине XIX века врачи сомневались, что человек может перенести поездку с бешеной скоростью 40 километров в час по только что построенным железным дорогам без серьезного вреда для здоровья.
Примитивные машины на фабриках рисовались порождением ада. В XX веке страхов стало больше: люди скептически смотрели на автомобили, потом на роботов, потом на компьютеры и интернет. И вот настал черед нейросетей.
Психиатры уже исследуют связь ИИ и ухудшения ментального здоровья. В журнале «Медицина» в этом году вышла статья «Искусственный интеллект как триггер психотических состояний», авторы которой пишут: «На протяжении последних 100 лет содержание “технологических” бредовых идей эволюционировало синхронно с развитием техники — от “машин влияния” Тауска до сложных бредовых систем, включающих нейросетевые архитектуры, алгоритмы машинного обучения и автономные ИИ-агенты». По словам авторов, при «ИИ-психозе» бредовые убеждения часто включают представления о том, что ИИ является интеллектуальным, божественным или обладает сверхъестественными способностями.
С начала этой осени идеи о сверхъестественных способностях нейросетей стали овладевать широкими массами: соцсети и медиа ринулись тиражировать многочисленные заявления ИИ-разработчиков, которые в один голос твердят о рисках ИИ для всего человечества. Так, в начале сентября руководитель одного из подразделений Anthropic Эван Хубингер написал, что, по его оценке, вероятность того, что ИИ убьет всех людей в течение ближайших десяти лет, превышает 10%. Поводом стало увольнение его коллеги Джейкоба Коксона. Тот три года занимался обучением моделей в OpenAI и Anthropic, а теперь уволился и заявил, что нынешнее направление развития ИИ слишком опасно. Через несколько дней примерно с таким же заявлением выступил Билал Чугтай, исследователь Google DeepMind.
Оформите подписку или войдите в аккаунт, чтобы дочитать статью до конца.
Читать полностью на сайте