Ранее мы рассказывали о темной стороне ИИ, а сегодня, в продолжение этой темы, предлагаем ознакомиться с мнением эксперта Натальи Касперской, президента группы компаний InfoWatch. А выводы оставим за вами.

К искусственному интеллекту относится любая технология, которая имитирует когнитивные функции человека, такие как мышление, осознание, речь, выбор объекта и так далее. В этом смысле это очень широкий спектр. Однако в последнее время под ИИ понимается система, основанная на нейронных сетях. Нейронная сеть — это набор матриц, которые задают определённые критерии на основании ранее проанализированных объектов. Затем, основываясь на этих критериях, система выносит определённый вердикт. Для внешнего наблюдателя и для самих разработчиков зачастую непонятно, на основании каких критериев принимается решение, то есть система ИИ представляет собой «черный ящик». Решение принимается непонятным образом. В эту матрицу, в эту нейросеть можно заложить различные «дырочки» (как это было с перфокартами), и какая из них сработает — наблюдатель не знает.

Пример: создаем систему распознавания автомобилей специального назначения — полиции или скорой помощи, которые должны автоматически открывать шлагбаумы во дворах. Разработчик может вложить в эту систему номер своей машины. При этом вы никогда не сможете это обнаружить. Это первый риск — риск использования ИИ с незаявленными целями. А поскольку обе платформы ИИ иностранного производства, мы не знаем, что именно они туда встроили. У нас нет гарантии, что там нет таких внутренних закладок.

Существует также гуманитарный риск. Например, на рынке труда беспилотный транспорт может лишить работы миллионы людей. У Минцифры есть план замены госслужащих «идеальным» чиновником-роботом. Можно предположить, что такой робот будет в основном отказывать, поскольку, когда ты разрешаешь что-то, ты тратишь государственные деньги, и к тебе всегда могут придраться. Таким образом, это не идеальная конструкция.

ИИ в некотором смысле угрожает человеческой цивилизации. Роботы вытесняют человека как ненужную частицу — глупую и неполноценную. Эта угроза касается не только русской цивилизации, но и всей нашей цивилизации, об этом говорит и Илон Маск.

Предлагаем ознакомиться с интервью, в котором Наталья рассказывает про искусственный интеллект, биометрию и защиту данных:

^{Фото: gkb15.moscow}