Совсем недавно в СМИ появилась новость об ошибках, допущенных в ходе нескольких хирургических операций в США из-за сбоев в работе искусственного интеллекта. Последствия для пациентов оказались достаточно серьезными, и они обратились к страховым компаниям. И все же масштаб скандала был несопоставим с теми случаями, когда в прошлые времена ошибки допускали фармацевты.
Общество в целом существенно более лояльно к сбоям в работе искусственного интеллекта, чем общество прошлого века было лояльно к сбоям самых разных систем — фармацевтических, инженерных. И это очень опасно, так как свидетельствует о двух вещах. Во-первых, о том, что мы — неспециалисты — стали очень плохо понимать, что за современные технологии нас окружают. И готовые признать, что это «не нашего ума дело». И во-вторых, апологеты ИИ сегодня абсолютно не готовы работать с рисками своих систем. В результате эти риски на многие порядки выше рисков, заложенных в прошлые технологии — хоть конструкции мостов и электрических станций, хоть использование химии.
Поэтому мы считаем нужным разъяснять самим себе и читателям то, как именно работают новые технологии. О том, что происходит с беспилотным гражданским транспортом, мы говорим со старшим научным сотрудником Федерального исследовательского центра «Информатика и управление» Российской академии наук Дмитрием Добрыниным.
Дмитрий Добрынин — кандидат технических наук, старший научный сотрудник Федерального исследовательского центра «Информатика и управление» РАН, председатель Подмосковного отделения Российской ассоциации искусственного интеллекта.
Область научных интересов — методы представления знаний для систем искусственного интеллекта, интеллектуальная робототехника, шагающие робототехнические системы. Автор нескольких методов интеллектуального анализа данных, основанных на индуктивном выводе. В настоящее время занимается разработками в области интеллектуальной робототехники в ФИЦ ИУ РАН.
— Идея беспилотников, насколько я понимаю, подразумевала решение задач без участия человека, там, куда ему нет доступа.
— Два направления. Первое — то, о чем вы говорите: работа там, где человек не может. Это космос, МЧС, глубокие шахты, подводные работы… Это специальная область, где не важна цена, а важна функциональность. А второе направление — это когда мы хотим облегчить себе жизнь, снизить затраты. Это разного рода беспилотный транспорт, где мы пытаемся заменить человека автоматом. Но оказывается, что напрямую заменить мы не можем.

