Риски цифровизации госаппарата

Другой модный тренд в системе госуправления, на который обратила внимание Наталья Касперская — это повсеместное внимание к искусственному интеллекту и попытки сделать использование ИИ-технологий обязательными.

Системы ИИ по своей природе показывают ложноположительные и ложноотрицательные срабатывания, а говоря простым языком — глючат. ИИ — это «черный ящик», который работает по своим внутренним алгоритмам. Нельзя давать ИИ право принимать ответственные решения, будь то работа в государственных, медицинских или иных системах.

Да, люди тоже ошибаются, однако человек несет ответственность за свои ошибки, а ИИ — нет. Кто будет нести ответственность за принятое ИИ решение, которое привело к плачевным последствиям? Программист создал систему, ее дальнейшее машинное обучение на основе вводимых данных вне его власти. Заказчик получил готовое решение «из коробки» и тоже не может нести полную ответственность за ее работу.

Наталья Касперская подчеркнула, что на ИИ возлагать излишние надежды не стоит. Любая новая технология проходит пик хайпа, затем интерес падает. При этом не каждая технология проходит проверку временем. К примеру, несколько лет назад такой хайповой технологией в том числе в госсекторе был блокчейн. Теперь про него почти не вспоминают.

Следует дождаться, когда технологии ИИ выйдут на плато производительности и применять его разумно, не полагаясь всецело на предлагаемые ИИ-решения.

Наталья Касперская рассказала, что, если процесс цифровизации системы госуправления будет продолжен в том же темпе, это приведет к ситуации обратного удара: людям станет сложнее пользоваться государственными сервисами и получать адекватную обратную связь.

Противодействие со стороны чиновников и жесткий KPI по цифровизации приведет к замещению в качестве ответного звена человека-чиновника на электронного помощника. Многие из нас сталкиваются с такими «электронными болванами» при обращении в службы поддержки банков, операторов связи, онлайн-ритейла. Человеку добиться от «электронного болвана» реальной помощи практически невозможно, а пробиться через него до живого оператора бывает сложно, если вообще возможно. При этом системы чат-ботов создают красивую статистику по числу обработанных «обращений» и пользователей, которым они «помогли».

Как показывает практика, полезными «электронных болванов» не делает даже внедрение ИИ-технологий.

Идеологи цифровизации рисуют картину, когда перевод государственных сервисов и услуг в «цифру» кратно повысит комфорт людей и эффективность системы в целом. Однако со стороны чиновников процесс стремительной цифровизации встречает отторжение и неприятие, особенно на региональном уровне.

По существу, цифровизация для многих чиновников это «электронный кнут», который загоняет работу участников системы госуправления в колею и постоянно добавляет работы.

На фоне шумихи, которая сопровождает процесс цифровизации, внедрения «умных» сервисов и технологий машинного обучения, люди забывают про очевидные вещи. Все эти технологии зависят от электричества и подключения к Интернету.

Уже сейчас в ряде регионов страны отключение мобильного и стационарного Интернета входит в рутину, а дальше может стать нормой повсеместно. К перебоям с электроэнергией может привести множество разных факторов и случайностей. Как в таком случае пользоваться электронными сервисами и услугами, получать доступ к документам?

По убеждению Натальи Касперской, отказ от бумажного документооборота — это настоящая диверсия. Если сейчас переведем в «цифру» всю работу госаппарата, окажемся слепыми и глухими в моменты кризиса.