Общий искусственный интеллект (artificial general intelligence, AGI)) привлекает все больше внимания, но прежде чем он будет готов к широкому применению, предстоит еще многое сделать, считают опрошенные порталом InformationWeek эксперты.
AGI уже вызывает большой ажиотаж, но его реализация займет время. Сколько времени — вопрос весьма спорный. Например, Сэм Альтман в прошлом году заявил, что, по его мнению, AGI будет реализован в
«Мы думаем об AGI с точки зрения постепенного прогресса в направлении создания машин, которые смогут выйти за рамки визуального восприятия и ответов на вопросы и перейти к принятию решений на основе целей, — говорит Брайан Вайс, технический директор Hyperscience, поставщика инфраструктуры гиперавтоматизации и ИИ для предприятий. — Настоящий сдвиг наступит, когда системы не будут просто читать, классифицировать и обобщать содержание документов, созданных людьми, а когда мы будем доверять им принятие окончательных бизнес-решений».
На кривой Gartner «2025 Hype Cycle for AI» AGI отстает, но находится относительно близко к другим формам ИИ, включая ИИ-агенты, мультимодальный ИИ и AI TRiSM (этичный и безопасный ИИ), на которых аналитическая компания рекомендует ИТ-руководителям сосредоточиться в 2025 г.
Недавно выпущенная OpenAI модель GPT-5 не является AGI, хотя, как утверждается, она может давать более полезные ответы в различных областях. Тал Лев-Ами, технический директор и соучредитель Cloudinary, поставщика платформы для оптимизации медиа и визуального опыта, отмечает, что «надежность» — это ключевое слово, когда речь идет об AGI.
«Я прогнозирую, что в течение следующих пяти-семи лет мы увидим функционально широкие системы ИИ, которые будут похожи на AGI в ограниченных контекстах, особенно в таких областях, как творческий контент, генерация кода и взаимодействие с клиентами, — говорит он. — Однако настоящий AGI, который будет адаптируемым, объяснимым и этичным во всех областях, по-прежнему, вероятно, появится не раньше чем через 10 лет».
Другие оценки еще более пессимистичны. Например, Джош Боскес, технический директор поставщика ПО общественного назначения Second Front Systems, считает, что AGI, вероятно, не станет реальностью в течение одного-двух десятилетий, а надежный, готовый к производству AGI, скорее всего, появится еще позже. «Возможно, мы увидим впечатляющие демонстрации раньше, но создание систем, на которые люди смогут полагаться при принятии критически важных решений, требует обширных испытаний, мер безопасности и нормативных рамок, которые пока не существуют», — говорит он.
По словам Джима Роуэна, директора Deloitte Consulting, хотя сроки и определение достижения AGI остаются неопределенными, организации уже готовятся к его появлению. «Внедряя стандарты, решая проблемы регулирования и оптимизируя свои экосистемы данных, компании укрепляют текущие возможности ИИ и закладывают основу для AGI. Эти проактивные меры делают путь к AGI все более достижимым», — говорит он.
Любые прогнозы по поводу появления AGI могут измениться, учитывая ускоряющиеся темпы инноваций в области ИИ и появление новых нормативных требований.
Проблемы с AGI
Узкий искусственный интеллект (artificial narrow intelligence, ANI) — то, что мы сейчас используем — все еще не идеален. Часто виноваты данные, поэтому существует огромный спрос на данные, готовые для ИИ. Однако, несмотря на множество доступных инструментов для управления данными и их качеством, некоторые предприятия все еще испытывают трудности. Без данных, готовых для ИИ, они сталкиваются с проблемами надежности при использовании любой формы ИИ.
«Современные системы могут галлюцинировать или предпринимать несанкционированные действия, и мы все видели примеры этого. Но AGI будет работать дольше, затрагивать больше систем и принимать решения с более высокими ставками. Риск заключается не только в неправильной реакции. Речь о каскадном отказе инфраструктуры, — говорит Кит Колберт, технический директор платформы Invisible Technology, поставщика программных сервисов, поддерживающего цепочку создания ценности ИИ. — Нам понадобится сложный набор мер безопасности, чтобы этого не произошло. Сегодня они существуют в виде базового контроля доступа к конфиденциальным системам, но с AGI нам понадобятся гораздо более совершенные механизмы».
По словам Роуэна, его компанию беспокоят не столько технологии, сколько готовность организаций и потенциальные ошибки в управлении. «Без надлежащих структур и системы управления внедрение AGI может усугубить существующие проблемы, такие как стратегическая несогласованность. Тщательная подготовка будет иметь решающее значение для максимального использования преимуществ AGI и минимизации рисков, — говорит он. — Как и в случае с предыдущими достижениями в области ИИ, CIO должны придерживаться стратегического и ориентированного на бизнес подхода к AGI, который ищет возможности для создания долгосрочной ценности». Он советует начать с низкорисковых, высокоценных пилотных проектов, которые повышают внутреннюю производительность или автоматизируют повторяющиеся задачи, прежде чем расширять AGI для решения межведомственных задач. Такой поэтапный подход поможет командам постепенно адаптироваться, укрепит доверие к системам AGI и позволит на раннем этапе решить операционные проблемы.
Лев-Ами обеспокоен галлюцинациями и непрозрачностью: «Больше всего я озабочен „иллюзией понимания“. Системы, которые кажутся компетентными, но не имеют обоснованного понимания, могут нанести реальный вред, особенно при использовании в контексте принятия важных решений, доступности или дезинформации. Меня также беспокоят непрозрачные цепочки зависимостей. Если основная бизнес-логика начинает полагаться на развивающиеся модели „черного ящика“, как мы сможем обеспечить непрерывность, подотчетность и контролируемость? Даже если мы тщательно протестируем ИИ, как мы сможем доверять тому, что он будет делать, когда столкнется с ситуацией, с которой никогда раньше не сталкивался, после того как мы предоставим ему полную автономию? Риск заключается в том, что ошибки AGI могут быть непредсказуемыми и потенциально неограниченными».
Дэвид Гуаррера, руководитель отдела генеративного ИИ компании EY Americas, считает, что сегодняшние вызовы останутся вызовами и для AGI. «Власть и ресурсы все больше концентрируются в руках небольшого числа технологических компаний, создавая новую форму цифровой гегемонии, которая может иметь широкие социальные последствия, — говорит он. — В то же время мы наблюдаем распространение дезинформации и поток низкокачественного контента, созданного ИИ, которые угрожают ухудшить информационную экосистему, на которую люди полагаются при принятии решений. Эти тенденции могут усилить поляризацию, поскольку алгоритмы усугубляют раскол и еще больше отдаляют сообщества друг от друга».
Есть также и экономические проблемы. «Автоматизация уже вытесняет определенные категории рабочих мест, и AGI, вероятно, значительно ускорит эту тенденцию. Помимо потери рабочих мест, мы сталкиваемся с возможностью того, что агентные рабочие процессы могут привести к катастрофическим ошибкам или галлюцинациям, которые могут нанести реальный ущерб, если им будет предоставлена слишком большая автономия, — говорит Гуаррера. — Если смотреть дальше, то AGI поднимает глубокий вопрос о согласованности. Будут ли цели этих систем действительно соответствовать наилучшим интересам человечества? Поскольку мы предоставим им больше доверия и ответственности, мы должны быть уверены, что они не будут действовать против нас».
Вайс также подчеркивает необходимость ответственности и безопасности. «AGI — это не только про возможности, но про и доверие. В критически важных системах, таких как страхование, обработка государственных форм или финансовые одобрения, мы имеем дело с решениями, которые имеют серьезные последствия. Если система принимает неправильное или, что еще хуже, необъяснимое решение, последствия могут быть очень серьезными, — говорит он. — Мы также видим, что отрасль слишком сильно полагается на общие модели, которым часто не хватает строгости, экспертных знаний в конкретной области или специфичных данных, необходимых для обеспечения безопасности в корпоративной среде».
Как ИТ-руководители должны подходить к AGI
Аарон Харрис, технический директор Sage Group, поставщика технологий для бухгалтерского учета, финансового управления персоналом и расчета заработной платы, говорит, что ИТ-руководители должны признать, что в конечном итоге им придется принять AGI. Если они этого не сделают, их организации останутся позади.
«Компании должны продолжать очищать свои данные, улучшать их понимание, делать их доступными и создавать программы управления и обеспечения безопасности данных. Все эти вещи сейчас не менее важны, чем раньше, — говорит Харрис. — Я думаю, что действительно успешными будут те компании, которые отнесутся к этому серьезно. Да, речь идет о понимании возможностей ИИ, выборе правильных инструментов и решении правильных проблем, но я думаю, что победителями станут те, кто создаст правильную основу для работы ИИ».
Ашиш Кушу, технический директор компании L&T Technology Services, предоставляющей инженерные и технологические услуги, считает, что ИТ-руководители должны подходить к AGI со стратегической осторожностью и проактивным экспериментированием. Ключевые шаги включают в себя развитие грамотности в области AGI среди команд, приоритизацию исследований, ориентированных на конкретные сценарии использования, лидерство с гибкостью и дальновидностью, укрепление базовой инфраструктуры и инвестирование в основные возможности AGI. Он также рекомендует тестировать агентные системы в контролируемой среде и взаимодействовать с сообществами, занимающимися вопросами политики и этики.
«Относитесь к AGI не как к продукту, а как к смене парадигмы. Речь идет не только о технологиях, но и об управлении, культуре и ответственности», — говорит Кушу.
Роман Рылько, технический директор компании Pynest, занимающейся Python-разработкой, считает, что ИТ-руководители должны уже сейчас начать приучать себя к прозрачности. «Даже если до появления AGI еще годы, основа — это культура: как вы документируете предположения, оцениваете результаты системы и создаете защитные механизмы вокруг быстро развивающихся инструментов? Отнеситесь к AGI как к любой сложной системе: определите ее рамки, контролируйте и постоянно тестируйте на нагрузку, — говорит он. — И убедитесь, что вы не единственный, кто об этом думает. Лучшие идеи — и лучшие ограничения — обычно приходят от людей, которые ближе к крайним случаям, чем к стратегическим планам».
Другие моменты, которые следует учитывать
Лев-Ами уже наблюдает, как ANI радикально меняет формат сотрудничества между разработчиками и маркетологами. AGI может еще больше размыть границы. «Представьте себе, что менеджеры по продуктам напрямую генерируют прототипы пользовательского интерфейса, а дизайнеры координируют конвейеры контента с помощью простых подсказок, основанных на намерениях, — говорит он. — Это создаст потребность в новых ролях: дизайнерах ИИ-опыта, руководителях по управлению моделями и аудиторах синтетических данных. Архитектура сместится в сторону модульной, основанной на моделях, где основной компетенцией станет не только выполнение, но и координация».
Вайс считает, что современные системы превосходны в задачах, основанных на поиске информации, и действуют как научные помощники, но самостоятельное принятие решений на уровне сложных, регулируемых корпоративных процессов — это совсем другая история. «Мы находимся на ранней стадии развития когнитивных способностей в области интерактивности, моделей, которые могут извлекать информацию или общаться в чате и генерировать контент. Но когнитивные способности, которые поддерживают независимую аналитику, принимают автономные решения внутри рабочих процессов и обосновывают эти решения — это совсем другой уровень», — говорит он.
Гуаррера полагает, что если машины превзойдут людей в большинстве экономически ценных видов работ, то вся структура рабочей силы будет перевернута. Роли во всех организациях резко сократятся, а владение и контроль над технологиями станут еще более сконцентрированными. «Хотя некоторые представляют себе утопию изобилия, основанную на беспрецедентном росте производительности, в реальности этот переход будет сопровождаться серьезными потрясениями, — говорит он. — Одной из самых серьезных задач, с которой когда-либо сталкивались компании, будет поиск баланса между возможностями и потрясениями».
Боскес прогнозирует, что AGI коренным образом изменит подход компаний к технологической стратегии, кадровому обеспечению и организационной структуре. «В ближайшей перспективе мы уже видим, как ИИ усиливает команды разработчиков, что улучшает качество кода, ускоряет создание прототипов и совершенствует процессы принятия решений, — говорит он. — Если действительно появится AGI, мы, вероятно, увидим более плоские организационные структуры и технологические стеки, в которых AGI будет являться основным компонентом платформы. Надеюсь, этот переход будет происходить постепенно, чтобы можно было адаптировать персонал к этой новой парадигме».
Райан Ахтерберг, технический директор технологической консалтинговой компании Resultant, считает, что консалтинговые компании в скором времени могут столкнуться с серьезным давлением на свое традиционное ценностное предложение. Рыночные исследования, бенчмаркинг и планирование сценариев будут выполняться не за недели, а за часы или даже минуты. AGI сможет отслеживать бизнес и рынки клиентов в режиме реального времени, выявляя риски и возможности по мере их появления.
«Традиционная пирамида консалтинга, в которой множество младших аналитиков обслуживают небольшое количество старших партнеров, сократится, поскольку рутинную работу с большими объемами данных будет выполнять автоматизация. На ее место придут более компактные команды консультантов и специалистов, владеющих ИИ, которые умеют направлять и проверять результаты работы AGI, привнося при этом глубокое понимание отрасли и человеческие нюансы. Такие навыки, как влияние, фасилитация и коучинг руководителей, будут приобретать все большую ценность», — говорит Ахтерберг.
По его словам, процветать будут компании, которые перейдут от подхода «мы даем ответы» к подходу «мы помогаем вам действовать в соответствии с правильными ответами». Те, кто будет придерживаться традиционных моделей предоставления презентаций, — нет.
