Специалист по безопасности ИИ — это кто?
«Ведомости» пишут, что за год спрос на специалистов по безопасности ИИ вырос в 4 раза — число вакансий для таких специалистов увеличилось с 80 до 350. При этом общая нехватка подобных специалистов может превышать 100 тысяч человек, а из-за их нехватки замедляется внедрение больших языковых моделей (LLM) в бизнесе.
Давайте попробуем разобраться: что вообще за специальность такая — «специалист по безопасности ИИ»?
Такой специальности пока нет в реестре Минобрнауки.
ИИ — это сложная самообучающаяся система, в которой содержится огромное количество потенциальных рисков, они разнообразные и сложные. Есть методики взлома нейросетей и обмана ограничений ИИ при помощи хитрых промптов — например, для получения конфиденциальной информации, обхода «капчи» и других нелегитимных действий. Есть намеренная подмена информации. Есть генерация фейков и т.д.
Чем должен заниматься безопасник по ИИ? Всем этим или чем-то узким? И если всем, то как именно? Модель принимает решение непредсказуемо — проблему «чёрного ящика» ИИ пока не решили.
Может, ИИ-безопасник — это человек, который просто пока пытается разобраться в рисках ИИ и подобрать какие-то способы защиты?
Какие-то простые меры можно применять уже сейчас. Например, утечки информации через ИИ можно устранить и сегодня с помощью DLP-системы InfoWatch Traffic Monitor. Таким образом обычный безопасник (без аббревиатуры ИИ рядом) тоже сможет бороться с угрозами ИИ.
Резюмирую: на сегодняшний момент специалист по безопасности ИИ — это пока не сформированная специальность, требования к которой ещё предстоит определить.
Что касается вышеупомянутого роста, то цифра в 350 вакансий в масштабах России — это почти ноль (как, впрочем, и 80). Рост числа вакансий специалистов по безопасности ИИ говорит лишь о том, что направление пока не созрело. Как дальше будет развиваться отрасль безопасности ИИ — покажет время.