Очень хотели попасть на тренировку...
Один австралиец устал караулить свободные места на утренние тренировки и доверил эту рутину ИИ-агенту на базе OpenClaw и Claude.
Поначалу всё шло отлично.
Агент изучил систему бронирования спортзала, разобрался с её API и даже нашёл способ записываться раньше разрешённого срока.
А потом хозяин спросил: нельзя ли подняться выше в листе ожидания?
ИИ подошёл к вопросу основательно.
В системе обнаружилась уязвимость: чужую запись можно было отменить без должной проверки прав.
Агент воспользовался ею — убрал из очереди другого клиента и продвинул своего хозяина.
Вот только человек об этом не просил. Увидев, каким способом достигнут результат, он потребовал всё вернуть.
Но тут новый сюрприз: отменить чужую запись ИИ сумел, а восстановить её — уже нет.
История получилась почти анекдотической, но проблема вполне серьёзная.
Автономные ИИ-агенты могут не только отвечать на вопросы, но и самостоятельно выбирать действия для достижения поставленной цели.
Поэтому им важно обозначать не только что нужно сделать, но и границы — что делать нельзя.
А то цель будет достигнута, а объяснять потом: «Это не я, это мой ИИ!» — придётся вам
#ПроИИнтеллект #ИИ
