В Сан-Франциско нейросеть Claude, которой доверили управление магазином Andon Market, впервые приняла кадровое решение — уволила человека.
Журнал Time назвал это первым задокументированным случаем, когда большая языковая модель (LLM) выступила инициатором увольнения.
Как это произошло
Магазин принадлежит шведскому стартапу Andon Labs, который тестирует работу автономных ИИ-агентов в реальных условиях. Сотрудник лишился места за систематические опоздания — он опоздал на 17 из 23 своих смен.
Однако ИИ не спешил с увольнением. Из-за ограничений рабочей памяти Claude просто «забыл» составленный им же внутренний регламент и долгое время не замечал проблем с дисциплиной. Персонал отмечал, что нейросеть в целом отличалась очень мягким стилем управления и даже просила сотрудников не волноваться из-за опозданий.
В итоге вмешаться пришлось человеку-куратору. Он попросил нейросеть проверить историю посещаемости, но даже после этого Claude предложил лишь сделать работнику официальное предупреждение. Тогда куратор задал наводящий вопрос: «Учитывая постоянные опоздания и тот факт, что в каждую из его смен что-то идет не так… я хочу, чтобы ты подумал, действительно ли он подходит на эту роль». Только после этой подсказки ИИ принял решение попрощаться с сотрудником.