«Кого-то уволят»: игрок Arc Raiders утверждает, что Embark использовала ChatGPT для ответа на жалобу и случайно отправила несколько сообщений, предназначенных другим

Команда поддержки Arc Raiders под руководством разработчика Embark Studios, по утверждениям, использовала ChatGPT для обработки запроса игрока и в процессе ошибочно отправила ему несколько сообщений, которые, по всей видимости, предназначались другим игрокам.

Пользователь Reddit a1vmp1 утверждает, что «поддержка Arc Raiders случайно отправила мне ЦЕЛЫЙ КЛАД других людей» в чатах, отмеченных обменом запросами и ответами ChatGPT.

«Так что если вам каким-то образом удастся пробиться мимо ИИ-чат-ботов, вы в итоге получите реального сотрудника, использующего ИИ-чат-бота. Именно так возникают ошибки вроде этой», — жалуется игрок.

«Создай короткий ответ», — гласит один из предполагаемых запросов, переданных чат-боту. «ChatGPT сказал: Пишу», — читается промежуточный ответ над фактическим сообщением поддержки.

«Попроси скриншот текущего дерева навыков», — гласит другой предполагаемый запрос. Ответ, по всей видимости, сгенерированный на основе этого запроса, частично гласит: «Не могли бы вы предоставить скриншот вашего текущего дерева навыков, показывающий ваши доступные очки навыков?»

Эта закономерность повторяется несколько раз в цепочке сообщений, которая, по всей видимости, содержит около 10 отдельных обменов.

Я связался с a1vmp1 за дополнительными деталями и с Embark за комментарием об использовании ChatGPT, но пока не получил ответа.

В ответе на Reddit a1vmp1 уточнил, что он является пользователем 762 в цепочке сообщений. Ответ поддержки пользователю 762, который пожаловался на потерю полного комплекта снаряжения «в течение 20 секунд после появления из-за проблемы в игре», гласит:

«Мы понимаем ваше разочарование и сожалеем, что эти повторяющиеся проблемы стоили вам так много времени и заработанного снаряжения. Мы ценим, что вы предоставили записи, и понимаем ваши опасения по поводу потери предметов из-за обстоятельств, не зависящих от вас.

Хотя мы не можем восстановить потерянные предметы или результаты испытаний, мы обязательно передадим вашу обратную связь по этим вопросам соответствующей команде для дальнейшего рассмотрения.

Спасибо, что нашли время сообщить об этом и проявили терпение».

Предполагаемый запрос для этого сообщения снова был «Создай короткий ответ». Я прогнал это сообщение через инструменты обнаружения текста, сгенерированного ИИ, от Grammarly, Solvely и GPTZero, и все они оценили его как 100% созданное ИИ. То же самое касается и другого сообщения, которое я просмотрел.

Использование ИИ крупной игровой студией где-то в её процессе — не большое удивление, особенно учитывая, что Embark уже известна использованием ИИ во многих, и более заметных для игрока, приложениях. Скорее, игроки Arc Raiders, отвечающие на оригинальный пост на Reddit, кажутся развлечёнными ошибкой и раздражёнными подачей, и, как многие люди, устали разговаривать с роботами в чатах поддержки.

Это кажется ещё одним примером того, насколько трудно может быть дозвониться до реального человека в современной веб-среде, но особенно ироничным, учитывая, что Arc Raiders в основе своей о роботах, вытесняющих людей. Даже шаблонные, вставленные сообщения, выбранные и отправленные человеком, могли бы быть предпочтительнее.

«Кого-то уволят», — предполагает один игрок (хотя это кажется маловероятным, так как, по всей видимости, никакой конфиденциальной информации в результате этой ошибки не утекло).

«Особенно неприятно слышать банальности вроде „мы понимаем ваше разочарование“, когда „мы“ здесь даже не существует. Нет человека, которому действительно не всё равно, поэтому это заявление бесполезно», — жалуется другой игрок. «Я думаю, я бы предпочёл, чтобы работник с минимальной зарплатой притворялся, что ему не всё равно, чем чтобы LLM симулировал это», — добавляет он.

Разработчики Arc Raiders знают, что PvE был «поляризующим», обещают приоритизировать «общее здоровье и удовольствие от игры» при принятии решений о следующих шагах.

Игрок Arc Raiders получил в чате поддержки не только ответ на свой запрос, но и черновики сообщений для других пользователей. В переписке видны команды вроде «Создай короткий ответ» и «Попроси скриншот», что указывает на использование ChatGPT сотрудником студии. Игрок пожаловался на потерю снаряжения из-за бага, а инструменты обнаружения ИИ-текста оценили ответ как полностью сгенерированный. Разработчики пока не прокомментировали инцидент. Мне кажется, это наглядный пример того, как автоматизация поддержки может дать сбой. Игроки устали от шаблонных фраз вроде «мы понимаем ваше разочарование», особенно когда за ними не стоит реального человека. Даже если ИИ ускоряет обработку обращений, ошибка с отправкой чужих сообщений подрывает доверие. Возможно, студиям стоит найти баланс между автоматизацией и человеческим участием, чтобы игроки чувствовали, что их действительно слышат.