Во внутреннем документе Microsoft, полученном изданием 404 Media, компания описала план внедрения нового персонального помощника — агента искусственного интеллекта Scout. В документе, излагающем стратегию интеграции более доступной версии агентов OpenClaw в программный пакет Microsoft 365, описаны «три фазы» подхода. Первая фаза: «Сделать людей зависимыми».
«Продолжайте выпускать автономную версию ClawPilot. Проводите пилотные испытания пользовательского опыта, расширяйте базу пользователей и создавайте экосистему навыков и инструментов, которая заставит людей зависеть от него ежедневно. Это уже происходит органически», — говорится в документе.
Анонимные сотрудники Microsoft, опрошенные 404 Media, высказали неоднозначные мнения о формулировках. Один из них назвал явные ссылки на зависимость «очень тревожными».
«Мы наблюдаем всё больше и больше случаев зависимости от чат-ботов и агентов с искусственным интеллектом, и зависимость в целом — это то, что ни один продукт не должен делать частью своей стратегии построения», — сказал сотрудник. «Это похоже на один из тех моментов, когда громко произносят то, о чём обычно молчат».
Другой сотрудник возразил, резонно заметив, что «разве конечная цель любого программного обеспечения, создаваемого всеми крупными технологическими компаниями, не в том, чтобы вызывать зависимость?» «К счастью для нас, — пошутил он, — Microsoft довольно плохо создаёт вызывающие зависимость продукты по сравнению с некоторыми другими крупными компаниями».
Зависимость стала одним из страшных слов в индустрии искусственного интеллекта. Поскольку чат-боты и другие инструменты на основе искусственного интеллекта общаются на естественном, разговорном языке (с дополнительной примесью угодливости), пользователи могут нездорово привязываться к ним. Вопрос в том, знают ли компании, создающие эти продукты, об этой опасности и сознательно ли они играют на этом, чтобы стимулировать вовлечённость, несмотря на когнитивные риски и риски для психического здоровья. То, что Microsoft открыто заявляет о зависимости как о своей конечной цели, — в лучшем случае бестактно, а в худшем — опасно цинично.
Вопрос остаётся открытым. Если Microsoft открыто заявляет о намерении сделать свой искусственный интеллект вызывающим зависимость, — то где грань между вовлечением пользователя и сознательным причинением психологического вреда? И когда государственные регуляторы начнут рассматривать такие «стратегии построения продукта» как форму преднамеренного нанесения ущерба психическому здоровью населения?
