Кибербезопасность в эпоху нейросетей: реальные угрозы и мифы
Сегодня нейросети «создают» произведения искусства и «ставят» диагнозы. Но за впечатляющими возможностями скрываются серьезные риски.
О том, как меняется ландшафт киберугроз и какие опасности несет с собой популярность искусственного интеллекта, рассказал директор департамента методологии информационной безопасности «Ростелекома» Михаил Савельев.
«Пузырь нейросетей лопнет»
Разговор об информационной безопасности Михаил Савельев начал с главного тренда современности – искусственного интеллекта. По мнению специалиста, уровень шума вокруг технологии явно завышен. За маркетинговыми формулировками скрываются привычные алгоритмы, которые просто научились работать быстрее. «Если раньше это был анализ, то сейчас это называется искусственный интеллект, — пояснил Савельев, — так же, как в маркетинге приставка Bio или Eco повышает стоимость продукта на 30%».
При этом, несмотря на широкую популярность, по мнению Савельева, в ближайшее время стоит ожидать охлаждения рынка или, как он выразился, «лопанья пузыря». Причины этого процесса экономические и технологические. Затраты на создание дата-
центров для работы нейросетей вдвое превышают потенциальную прибыль от их эксплуатации. 80% стартапов в сфере ИИ оказались неуспешными, что значительно выше средних показателей по другим технологиям. «Это долго не продлится», — предупредил эксперт.
Заменят ли нас машины?
Отдельную тревогу у специалиста вызвало слепое доверие к искусственному интеллекту, особенно когда дело касается жизни и здоровья. Савельев привел наглядный пример: ИИ начинают активно использовать в медицине. Сначала врачи перепроверяют его выводы, затем начинают доверять, а в итоге может вырасти поколение специалистов, которые сами не умеют трактовать симптомы пациентов. «Нам придется потом переобучать модель. Однако мы столкнемся с тем, что нет врачей, которые смогут разметить снимки для обучения следующего поколения искусственного интеллекта», — описал эксперт проблему эксперт.
По его словам, базы данных нейросетей не бесконечны. Без человеческого фактора невозможно дальнейшее развитие технологий. Также, как и полная замена ручного и интеллектуального труда машиной. «Если ты не рассказываешь нейросети о том, что существуют какие-то цвета, кроме зеленого, то когда ты спрашиваешь: «Какого цвета небо?» — она начинает рассказывать про зеленоватые оттенки закатного неба», — привел пример он.
Киберугрозы: автоматизация атак и фишинга
Эксперт отметил, что в области кибербезопасности существенных изменений не произошло, однако угрозы стали масштабнее и быстрее из-за внедрения автоматических технологий. «Раньше подключенный к сети компьютер оставался незамеченным около месяца, теперь атака начинается спустя несколько минут. Это связано с работой множества автоматизированных инструментов, включая нейросети, непрерывно сканирующих сеть в поисках уязвимых устройств», — объяснил Михаил.
Реклама. ПАО "Ростелеком". Erid: 2VfnxwTfy3X
Ольга А.