Нашел новость, что американские (ну, это пока) мошенники начали использовать ИИ для обмана сервисов доставки и их клиентов.

Писатель Бирн Хобарт столкнулся с почти сюрреалистичной ситуацией: он оформил заказ, и буквально сразу «курьер» отметил его как доставленный. В подтверждение была приложена криво сгенерированная фотография двери с пакетом еды — после чего исполнитель исчез.

DoorDash не стал разбираться и просто отправил новый заказ бесплатно. На этот раз приехал настоящий курьер, а не хакер.

Злоумышленники получают доступ к аккаунтам курьеров DoorDash, подменяют GPS-данные на том же взломанном телефоне, чтобы система «видела» их у адреса клиента. Они берут заказ, мгновенно помечают его как доставленный и прикладывают сгенерированное ИИ фото пакета у двери, максимально похожей на реальную. Для правдоподобия изображения домов берутся из Google Street View. Деньги выводятся сразу же — до того, как аккаунт успеют заблокировать.
Фейковые заказы DoorDash. Фейковые фотографии строительства. Фейковые домашние задания. Фейковым становится всё — это ящик Пандоры промышленного масштаба, загрязняющий не только планету, но и сам общественный договор, который и без того держался на честном слове

З.Ы. От себя добавлю, что фейковые координаты для обмана программ отчетности использовались давно. Сейчас к ним нейронка еще поможет приложить и фотоотчет 😉