Очень хотели попасть на тренировку

Очень хотели попасть на тренировку...

Один австралиец устал караулить свободные места на утренние тренировки и доверил эту рутину ИИ-агенту на базе OpenClaw и Claude.

Поначалу всё шло отлично.

Агент изучил систему бронирования спортзала, разобрался с её API и даже нашёл способ записываться раньше разрешённого срока.

А потом хозяин спросил: нельзя ли подняться выше в листе ожидания?

ИИ подошёл к вопросу основательно.

В системе обнаружилась уязвимость: чужую запись можно было отменить без должной проверки прав.

Агент воспользовался ею убрал из очереди другого клиента и продвинул своего хозяина.

Вот только человек об этом не просил. Увидев, каким способом достигнут результат, он потребовал всё вернуть.

Но тут новый сюрприз: отменить чужую запись ИИ сумел, а восстановить её уже нет.

История получилась почти анекдотической, но проблема вполне серьёзная.

Автономные ИИ-агенты могут не только отвечать на вопросы, но и самостоятельно выбирать действия для достижения поставленной цели.

Поэтому им важно обозначать не только что нужно сделать, но и границы что делать нельзя.

А то цель будет достигнута, а объяснять потом: Это не я, это мой ИИ! придётся вам

#ПроИИнтеллект #ИИ