Хотя искусственный интеллект обладает многими положительными качествами, оригинальность не входит в их число. Вопрос, действительно ли нам нужны инструменты ИИ, способные мыслить самостоятельно, обсуждают опрошенные порталом InformationWeek эксперты.

ИИ добился впечатляющих успехов во многих областях, включая распознавание и генерацию речи, обработку естественного языка, создание изображений и видео, планирование и принятие решений. Однако одна функция, которой он еще не овладел, — это генерирование чисто оригинальных мыслей.

В своей основе ИИ оперирует алгоритмами и данными, отмечает Грег Костелло, технический директор компании Huma.AI, занимающейся разработкой ИИ в области здравоохранения. «Концепция оригинального мышления у человека глубоко переплетена с сознанием, эмоциями, опытом и интуицией», — говорит он. Хотя ИИ может генерировать новые результаты и решения, комбинируя существующие знания уникальными способами, он не «думает» так, как это делает человек. «Правильнее сказать, что ИИ может демонстрировать „эмерджентное поведение“ или получать результаты, которые не были явно запрограммированы, — поясняет Костелло. — Однако можно ли считать это оригинальным мышлением — вопрос философской дискуссии».

По словам Удо Сглаво, вице-президента по продвинутой аналитике компании SAS, современные системы ИИ, включая продвинутые модели машинного обучения, в основном основаны на распознавании образов и статистических выводах из больших массивов данных. «Именно поэтому они отлично справляются с такими задачами, как перевод языка, распознавание изображений и генерация текста на основе обучающих данных, — говорит он. — Однако эти системы ИИ не обладают сознанием, самосознанием или способностью к оригинальному мышлению».

Возможность обретения машинами сознания или оригинального мышления обсуждается экспертами в области ИИ и нейронаук, отмечает Шомрон Джейкоб, руководитель отдела прикладного МО и платформ в компании Iterate.ai, специализирующейся на генеративном ИИ. «Чтобы это произошло, потребуются прорывы, выходящие за рамки нынешнего понимания, объединяющие идеи науки о мозге, когнитивной науки и компьютерных наук, — говорит он. — Прогнозирование сроков в лучшем случае спекулятивно, но многие эксперты считают, что мы находимся на расстоянии нескольких десятилетий, если не больше, даже от потенциальной возможности такого развития».

Оригинальность имеет значение

Оригинальность мышления можно определить как способность генерировать новые решения или идеи, не будучи явно обученным им. «В этом аспекте некоторые модели ИИ уже в определенной степени демонстрируют такую способность, особенно генеративные, — говорит Костелло. — Однако для того, чтобы ИИ достиг такой формы мышления, которая отражала бы человеческую оригинальность и креативность, потребуется совершить прорыв в понимании человеческого сознания и познания, а затем воплотить это понимание в вычислительных моделях». Он также отмечает, что прогнозирование сроков такого прогресса носит спекулятивный характер, «но значительный прогресс может быть достигнут в ближайшие несколько десятилетий».

Рассмотрим создание произведений искусства. Художник может нарисовать пейзаж, вдохновленный детскими воспоминаниями, эмоциями или сновидением. «В отличие от этого, используя генеративные модели, ИИ может создать произведение искусства, анализируя тысячи существующих работ, извлекая из них стили, модели и темы, а затем создавая новую композицию», — говорит Костелло. Итак, если человек в сотрудничестве с ИИ создает произведение искусства, не соответствующее первоначальному замыслу или видению художника, следует ли называть это оригинальной мыслью?

Повод для беспокойства?

Существует опасение, что технология ИИ, способная к оригинальному мышлению, может потрясти человечество до основания. «В философском плане это поставит под сомнение наше понимание сознания, интеллекта и уникальности человеческого мышления», — говорит Джейкоб. В то же время целые отрасли могут быть революционизированы или потерять свою актуальность. Взаимодействие, взаимозависимости и взаимосвязи людей с машинами могут претерпеть глубокие изменения. С этической точки зрения это вызовет озабоченность по поводу прав таких сущностей и нашей ответственности перед ними, отмечает он.

Джейкоб обращает внимание на то, что такие авторитетные мыслители, как Стивен Хокинг и Элон Маск, уже выразили серьезную обеспокоенность неконтролируемым развитием ИИ. «Риски связаны с тем, что сверхразумный ИИ может действовать вне контроля человека, а также с этическими последствиями создания сущностей, которые могут иметь собственные желания или страдания, — поясняет он. — Крайне важно, чтобы исследования в области ИИ сопровождались надежными этическими соображениями, протоколами безопасности и мерами регулирования».

Важно ограничивать технологии таким образом, чтобы создавать только надежные системы, считает Сглаво. «При нынешних темпах развития технологий неспециалистам в конечном итоге будет сложно отличить систему ИИ от человека, — прогнозирует он. — Это означает, что выявлять оригинальные мысли будет все труднее». Сглаво считает, что для того, чтобы ИИ не вводил в заблуждение ничего не подозревающих людей, потребуется принятие соответствующих нормативных актов.

Заключительные выводы

По мнению Сглаво, технологии должны служить людям, а не наоборот. Он отмечает, что темпы развития ИИ будут ключевым фактором, определяющим, стоит ли людям беспокоиться о том, что технология эволюционирует до уровня оригинального мышления. «Другими важнейшими факторами являются разработка надежной нормативной базы и то, как общество решает этические проблемы и проблемы безопасности, связанные с ИИ, — добавляет Сглаво. — Взаимодействие между людьми и так уже достаточно сложное. Я не думаю, что мы готовы добавить еще одну независимую сторону в дискуссию».