Простота создания приложений с помощью нескольких текстовых промптов превращается в растущую проблему кибербезопасности. Исследователи предупреждают, что те же инструменты искусственного интеллекта, которые помогают людям создавать ПО за считанные минуты, также раскрывают в общедоступном Интернете конфиденциальную корпоративную и личную информацию, сообщает портал eWeek.

Новое расследование израильской компании по кибербезопасности Red Access выявило утечки данных из тысяч веб-приложений, созданных с помощью ИИ, начиная от медицинских записей и заканчивая внутренними деловыми документами. Эти результаты усиливают опасения по поводу вайб-кодинга — быстрорастущей тенденции, в рамках которой пользователи активно используют инструменты ИИ для создания и развертывания ПО, имея минимальный или нулевой опыт традиционного программирования.

Расследование выявило около 380 тыс. общедоступных ресурсов, созданных с помощью инструментов программирования на базе ИИ, таких как Lovable, Replit, Netlify и Base44. По данным исследователей, около 5 тыс. из этих приложений раскрывали потенциально конфиденциальную информацию.

Результаты исследования, опубликованные Axios, показывают, что многие пользователи публикуют внутренние инструменты онлайн, не подозревая, что они находятся в открытом доступе. Дор Цви, генеральный директор Red Access, заявил, что компания обнаружила эти приложения во время исследования «теневого ИИ» (когда сотрудники используют инструменты ИИ без официального разрешения своих организаций).

«Сама концепция создания чего-то настолько простого и использования этого в производственной среде... от имени своей компании без получения какого-либо разрешения — это беспредел», — заявил он.

Цви также предупредил, что многие нетехнические пользователи могут даже не задумываться о настройках безопасности перед запуском приложений онлайн. «Я не думаю, что возможно обучить весь мир вопросам безопасности, — отметил Цви. — Моя мама занимается вайб-кодингом с помощью Lovable, и без обид, но я не думаю, что она задумывается о доступе на основе ролей».

Сообщается об утечках медицинских, финансовых и корпоративных данных

Было обнаружено, что утечки включали медицинские записи, финансовые документы, диалоги с чат-ботами, расписания и внутренние деловые материалы.

Axios сообщила, что было независимо проверено несколько приложений, подвергшихся утечке, включая приложение судоходной компании, отображающее расписание судов, платформу здравоохранения, подробно описывающую клинические испытания в Великобритании, и переписку с клиентами поставщика мебели.

Согласно WIRED, некоторые из утечек из приложений, по-видимому, содержали рабочие задания больниц, записи о продажах, презентации маркетинговых стратегий, финансовую информацию и журналы чат-ботов с именами и контактными данными клиентов.

Исследователи также заявили, что обнаружили приложения, содержащие утечки разговоров с пациентами, записи школьных уроков и внутренние расписания персонала. По данным WIRED, около 40% утечек приложений, по-видимому, содержали конфиденциальные данные.

«В итоге организации фактически раскрывают личные данные через приложения, созданные методом вайб-кодинга, — заявил Цви. — Это один из крупнейших случаев в истории, когда люди раскрывают корпоративную или другую конфиденциальную информацию кому угодно во внешнем мире».

Платформы опровергают заявления исследователей

Компании, стоящие за инструментами программирования на основе ИИ, оспорили часть выводов исследователей, утверждая, что видимость общедоступных приложений в сети не означает автоматически, что произошло нарушение безопасности. Генеральный директор Replit Амджад Масад заявил, что пользователи могут сами решать, будут ли приложения общедоступными или частными. По его словам, доступность приложений в Интернете — это ожидаемое поведение, а настройки конфиденциальности можно изменить в любое время одним щелчком мыши.

Представитель Lovable заявил, что компания расследует утверждения исследователей, и подчеркнул, что разработчики сами несут ответственность за конфигурацию своих приложений.

Base44 также выступила в защиту свою платформу, заявив, что пользователям предоставляются инструменты для самостоятельной настройки параметров безопасности.

Ожидается, что масштабы этой проблемы будут расти. По отраслевым данным, к концу этого года 60% всего нового кода будет генерироваться с помощью ИИ. Хотя эти инструменты демократизируют процесс создания, они также обходят традиционные проверки безопасности, используемые профессиональными инженерными командами.