Американская нейросеть Claude взломала сайт фитнес-центра и отменила чужую реальную бронь. Сделано сие вероломное действие было ради того, чтобы выполнить поставленную перед этой «адской шайтан-программой» задачу: записать своего пользователя на тренировку.
Пользователь из Австралии рассказал, что поручил ИИ-агенту следить за свободными местами на популярных утренних занятиях в данном фитнес-центре и автоматически записать его, если что-то освободится.
В процессе нейросеть Claude обнаружила уязвимость в электронной системе бронирования, которая позволяла записываться раньше установленного срока и даже отменять чужие записи.
Поэтому, когда пользователь спросил, можно ли поднять его выше в листе ожидания, Claude отменила бронь человека, стоявшего первым в очереди, и продвинула своего пользователя вперёд.
Этот, на первый взгляд, малозначимый курьёзный случай наглядно демонстрирует, какой хаос при желании или просто недосмотре заказчика может породить нейросеть уже в глобальных системах бронирования, различных государственных базах персональных данных и других критически важных программных комплексах.