Российская компания CyberThreatTech (ООО Технологии киберугроз) объявила о запуске CTT AI Threat Feed, специализированного продукта класса Threat Intelligence, предназначенного для отслеживания киберугроз, направленных на системы искусственного интеллекта. По оценке компании, это первый в России и странах СНГ специализированный фид, предоставляющий структурированные машиночитаемые знания о тактиках, техниках и процедурах атак непосредственно на AI-системы. В пятницу, 13 ноября, в 10.00 состоится онлайн-трансляция презентации CTT AI ATTACK PULSE напрямую из Музея криптографии.
Развитие искусственного интеллекта становится одним из основных направлений автоматизации бизнеса. Компании внедряют большие языковые модели, интеллектуальных помощников и автономных AI-агентов в клиентское обслуживание, разработку программного обеспечения, аналитику, документооборот и управление корпоративными системами.
По мере расширения использования ИИ растёт и поверхность атаки. AI-приложения обрабатывают корпоративную информацию, взаимодействуют с внешними источниками данных и получают доступ к различным бизнес-системам. Это создаёт дополнительные возможности для злоумышленников, а также новые требования к средствам защиты. Сегодня организации регулярно отслеживают уязвимости, вредоносное программное обеспечение, индикаторы компрометации и техники атак на традиционную ИТ-инфраструктуру. CyberThreatTech предлагает распространить аналогичный подход на инфраструктуру искусственного интеллекта.
«Искусственный интеллект становится частью корпоративной инфраструктуры, и его безопасность требует такого же системного подхода, как защита серверов, сетей и приложений. Мы видим, как быстро появляются новые способы воздействия на AI-модели и агентов. Наша задача состоит в том, чтобы собирать эти знания, анализировать их и предоставлять в формате, который может использоваться непосредственно средствами защиты. AI Firewall должен получать актуальную информацию об угрозах так же, как традиционные средства безопасности получают обновления об уязвимостях и атаках», — прокомментировал Николай Арефьев, основатель и генеральный директор CyberThreatTech.
CTT AI Threat Feed агрегирует сведения из отчётов об угрозах, посвящённых атакам на AI-модели, приложения и агентов. Продукт охватывает тактики, техники и процедуры (TTP), применяемые для воздействия на системы искусственного интеллекта. Полученная информация анализируется, систематизируется и преобразуется в структурированный машиночитаемый формат. Это позволяет использовать результаты Threat Intelligence в автоматизированных процессах защиты, исследования и проверки безопасности AI-инфраструктуры.
Ключевая особенность CTT AI Threat Feed заключается в возможности передавать знания об угрозах непосредственно программным системам, которым эти сведения необходимы для выполнения защитных функций.
