Не секрет, что многие компании испытывают трудности с достижением ощутимой окупаемости инвестиций в свои инициативы в области искусственного интеллекта. Недавнее исследование Массачусетского технологического института (MIT) показало, что до 95% случаев использования этой технологии на предприятиях оказались практически бесплодными. Откуда такой высокий процент неудач? Согласно новому исследованию, проведенному IDC по заказу SAS, одной из причин является широко распространенное недоверие компаний к тем самым инструментам ИИ, которые они внедряют. Это, в сочетании с внутренней ненадежностью самих систем, является основным препятствием для достижения окупаемости инвестиций, сообщает портал ZDNet.

Почему доверие — это важно

На первый взгляд, это может показаться очевидным: конечно, если вы не очень доверяете технологии и если она изначально ненадёжна, вы не станете внедрять её слишком глубоко в свой бизнес.

Однако компании внедряют ИИ, причём в огромных масштабах: более половины (65%) респондентов опроса SAS/IDC заявили, что их организации уже используют ИИ в той или иной степени, а ещё 32% планируют начать это делать в течение следующего года. Согласно июньскому прогнозу Gartner, к 2027 г. до половины всех внутренних процессов принятия бизнес-решений могут быть полностью автоматизированы или, по крайней мере, дополнены ИИ-агентами.

Самым большим сюрпризом нового исследования SAS/IDC является то, что происходит широкое коммерческое внедрение ИИ, хотя компании, похоже, не очень доверяют этой технологии. Глобальный опрос более 2300 ИТ-специалистов и бизнес-руководителей, показал, что более трех четвертей (78%) респондентов «полностью доверяют ИИ», в то время как гораздо меньшее их число (40%) фактически внедрили механизмы управления и объяснимости для обеспечения надежности своих внутренних систем ИИ.

«Это несоответствие оставляет значительную часть потенциала ИИ неиспользованной, а рентабельность инвестиций ниже там, где наблюдается недостаток доверия», — заявил Крис Маршалл, вице-президент по данным, аналитике, ИИ, устойчивому развитию и отраслевым исследованиям IDC.

Результаты опроса соответствуют недавним данным, которые показывают, что многие люди никогда не доверяют информации, получаемой через функцию Google AI Overviews, несмотря на то, что эта компания продолжает делать генеративный ИИ всё более центральным и заметным компонентом своей собственной поисковой системы, а также браузера Chrome и других инструментов для взаимодействия с потребителями.

Три основных препятствия

Авторы исследования SAS/IDC выявили три основных фактора, которые мешают компаниям сегодня доверять своим внутренним возможностям ИИ и, следовательно, снижают их способность достигать максимальной окупаемости инвестиций в эту технологию: слабая облачная инфраструктура, недостаточное управление и отсутствие у существующих сотрудников навыков работы с ИИ.

Хотя первые два фактора можно в значительной степени смягчить за счет партнерства со сторонними организациями и развития технологий, третий может оказаться несколько сложнее, и он, возможно, может усилить страх потери работы.

К счастью для сотрудников, последние исследования показывают, что большинство бизнес-руководителей отдают приоритет программам обучения, а не увольнениям. Более того, добавление в ваше резюме всего одного навыка, связанного с ИИ, может значительно повысить вашу зарплату на следующей должности.

Очень человеческая предвзятость

Исследование SAS/IDC выявило ещё один интересный феномен, касающийся эволюции отношений между людьми и ИИ: респонденты склонны доверять системам генеративного ИИ гораздо больше, чем традиционным моделям машинного обучения, несмотря на то, что последние существуют дольше и более прозрачны — они построены с меньшим количеством параметров и оснащены встроенными механизмами, которые позволяют легко понять, как они получают результаты, — в то время как системы генеративного ИИ гораздо менее прозрачны, не говоря уже о том, что подвержены периодическим галлюцинациям.

По мнению авторов исследования, это свидетельствует о психологической особенности людей: мы склонны рефлекторно больше доверять системам ИИ, которые кажутся более человечными, чем тем, которые более механистичны.

Инструменты генеративного ИИ, такие как ChatGPT, Gemini, Claude и др., превосходно генерируют язык, похожий на человеческий, что может создать иллюзию того, что они представляют собой нечто большее, чем просто алгоритмы, обнаруживающие и воспроизводящие закономерности из массивов обучающих данных. В некоторых крайних случаях эта иллюзия может иметь серьёзные психологические последствия, побуждая пользователей формировать эмоциональные или даже романтические связи с чат-ботами или новой категорией систем, которые технологические компании продвигают как «ИИ-компаньоны».

Эта способность, по мнению авторов, придаёт этим системам ауру авторитета. «Чем более „человечным“ кажется ИИ, тем больше мы ему доверяем, независимо от его реальной надёжности», — пишут они.