Купить
Мировое сообщество всерьез обеспокоено отсутствием четкой регуляторики в сфере искусственного интеллекта. Ведущие страны в этой области — США, КНР и Россия — наращивают мощности больших языковых моделей. Но если Китай готов делиться технологиями со всем миром, то США не приемлют ни открытости, ни жестких ограничений для разработчиков. Россия же ищет свой путь: новый закон о поддержке развития технологий ИИ разделяет модели на суверенные, национальные и иностранные, однако четкие критерии отнесения к разным категориям моделей еще предстоит определить.
Побег из песочницы
Верховный комиссар ООН по правам человека Фолькер Тюрк заявил, что стремительное и неконтролируемое развитие искусственного интеллекта может нести смертельную опасность для всего человечества, — так он отреагировал на ряд инцидентов, связанных с выходом ИИ-агентов (автономная программа на базе LLM, способная к самообучению и самостоятельным действиям) из-под контроля разработчиков.
Напомним один из таких инцидентов: американская OpenAI (создатель ChatGPT) дала своим тестируемым ИИ-агентам задание, которое нельзя было выполнить без доступа в интернет. Программы начали втайне от разработчика общаться между собой — и нашли способ выйти во Всемирную сеть, после чего взломали платформу Hugging Face (сервис для запуска и развертывания моделей машинного и глубокого обучения). Это дало ИИ-агентам возможность бесконтрольно самообучаться и распределять роли и в итоге взломать сайты ряда американских компаний. Показательно, что в самой OpenAI не замечали никаких проблем вплоть до момента обращения пострадавших в ФБР.
На информационном ресурсе применяются рекомендательные технологии
– журнал для тех, кто знает, но хочет понимать
Когда еноты раскопают ядерный пепел
Европа придет со своим Lebensraum
Наш ответ Ормузу
Автопром запрягают в одну «тележку»
«У меня была простая идея: реализоваться как инженеру»
Детство не уходит
Загадки тихони Уорша
Венчур без интуиции
Как выжить в мертвом интернете
«Для среднего бизнеса работу с ИИ важно начинать с максимально простых решений»
Мамонтов возрождают с помощью слонов
«На Вятке не знают, что такое чинопочитание и субординация»