Проблема внедрения искусственного интеллекта в корпоративный сектор отошла на второй план, уступив место трудностям с управлением и безопасностью. Согласно новому аналитическому отчету, большинство организаций не справляются с контролем за использованием ИИ своими сотрудниками, что создает серьезный разрыв между потенциальными возможностями технологий и реальной защищенностью данных.
Феномен «теневого ИИ» и скрытые угрозы
В обзоре отмечается резкий рост так называемого «теневого ИИ» (Shadow AI). Этот термин описывает ситуацию, когда сотрудники используют сторонние нейросети и инструменты для выполнения рабочих задач без ведома и одобрения ИТ-департамента. Такая практика становится массовой и расширяет поверхность потенциальных кибератак.
- Более 70% случаев использования ИИ в крупных компаниях происходит без должного надзора со стороны руководства.
- Семь из десяти сотрудников используют нейросети в работе еженедельно.
- Каждый третий работник применяет инструменты, которые не входят в одобренный перечень корпоративного ПО.
- Почти половина крупнейших мировых компаний не имеет структурированных процессов управления рисками, связанными с ИИ.
Проблемы безопасности и дефицит контроля
Неконтролируемое использование технологий ведет к появлению «разрыва в исполнении». Хотя инвестиции в отрасль продолжают расти, отсутствие единых стандартов мешает эффективному масштабированию проектов. Около 61% ИТ-руководителей фиксируют рост угроз, связанных с искусственным интеллектом, при этом лишь 31% опрошенных чувствуют уверенность в своей способности управлять этими рисками.
В материале подчеркивается, что сами сотрудники также обеспокоены ситуацией: 43% работников выражают опасения по поводу возможной утечки конфиденциальных данных. Это свидетельствует о том, что персонал может быть недоволен текущим уровнем корпоративного управления, отсутствием доступа к проверенным инструментам и нехваткой специализированного обучения.
Регуляторное давление и прогнозы
В ближайшее время компаниям придется адаптироваться к новым правилам игры. В Великобритании и странах Европы усиливается регуляторное давление: законодательство потребует от бизнеса полной прозрачности алгоритмов, обязательного аудита систем ИИ и строгого управления рисками.
По словам экспертов, ситуация требует немедленного вмешательства со стороны руководства, так как 80% сотрудников ожидают дальнейшего роста использования ИИ в своей деятельности в течение ближайшего года. Без внедрения механизмов контроля ИИ может принести организации столько же убытков и рисков, сколько и потенциальной выгоды.
