Искусственный интеллект приобретает все большую значимость для бизнеса и государств, становясь неотъемлемым активом. По прогнозам аналитических компаний, рост мирового рынка искусственного интеллекта составляет 16%-17% в год. Прогнозируется, что концу этого года рынок искусственного интеллекта составит примерно 330 млрд долларов, а к концу 2024-го - перешагнет отметку в 500 млрд. Регулирование и проблемы искусственного интеллекта обсудили участники стратегической сессии «Цифровая трансформация отраслей экономики и новые подходы к обеспечению информационной безопасности» на IT-Форуме.
Как сообщил один из спикеров, управляющий директор центра регулирования искусственного интеллекта ПАО «Сбербанк», председатель группы по межправительственным консультациям спецкомитета по ИИ Совета Европы Андрей Незнамов, вопросы регулирования искусственного интеллекта не сходят с международной повестки.
В последние два года практически каждый международный орган стал заниматься проблемой регулирования искусственного интеллекта. Так ЮНЕСКО последние два года разрабатывает первые в мире глобальные рекомендации по этике искусственного интеллекта. В проекте этих рекомендаций больше 150 пунктов, правда, этике как таковой там посвящена только первая часть. Остальное - это установление достаточно жестких систем контроля над соблюдением этих норм.
В совете Европы также создан специальный комитет по искусственному интеллекту. Он разрабатывает первую европейскую конвенцию по искусственному интеллекту, которая установит определенные правила для безопасного и уверенного развития этой технологии в Европе. Вероятно, проект появится уже в следующем году.
«Существует и ряд других органов, международных сообществ, различного рода двусторонних деклараций, альянсов, которые занимаются проработкой этой темы, в том числе в контексте безопасности. Все они направлены на то, чтобы совместно объединиться для развития технологий искусственного интеллекта, - рассказывает Андрей Незнамов. - Разрабатывается концепция регулирования искусственного интеллекта и на уровне СНГ. Тема также будет обсуждаться на уровне БРИКС. Это станет эффективным и правильным ответом тем международным альянсам, которые уже созданы в этой сфере без участия России».
В перспективе искусственный интеллект будет приносить все больше прибыли компаниям, однако и сам он все чаще становится объектом кибератак.
Сотрудники кафедры «Комплексная защита информации» Омского государственного технического университета, которые занимаются решением проблем безопасности искусственного интеллекта, убеждены: сам искусственный интеллект сегодня требует защиты.
«Мы считаем, что искусственный интеллект, в том числе различные его приложения, должен быть всегда только в защищенном исполнении. Не должно быть не малейшей возможности совершения каких-либо действий с использованием искусственного интеллекта любым не авторизованным лицом, не должно быть доступа к анализу операций, совершаемых им, алгоритмам его работы и т.д. Также должны быть исключены возможности управления злоумышленником искусственным интеллектом, извлечения из него знаний. В ближайшее время университетом будет презентована первая версия стандарта «Защищённый искусственный интеллект». Основная наша цель, чтобы Россия была инициатором таких стандартов и предлагала свои решения проблемы безопасности искусственного интеллекта»,- подчеркнул завкафедрой университета Павел Ложников.
Участники сессии также обсудили и другие угрозы информационной безопасности государств, особенности цифровой трансформации в странах БРИКС и ШОС, реализацию новых подходов к обеспечению информационной безопасности.
По данным экспертов, за последние четыре месяца количество кибератак в мире вырос на 30%. Поэтому так важна совместная выработка новых подходов к обеспечению информационной безопасности, ведь киберпреступность интернациональна и не имеет границ.
Источник:
https://informugra.ru/news/event/na-it-forume-v-khanty-mansiyske-obsudili-kak-zashchitit-iskusstvennyy-intellekt/
