ДИТ Москвы запустил Telegram-бот для борьбы с дипфейками и мошенниками
Бот умеет распознавать подмену лиц на фото, анализировать скриншоты с переписками и отличать реальную речь от синтезированной. Департамент информационных технологий (ДИТ) Москвы запустил бота в мессенджере Telegram под названием «Стопфейк». Бот призван помочь распознать аферистов, пытающихся украсть личные данные и деньги россиян. У бота есть три ключевые функции: Анализ диалога. В бот можно прислать скриншоты переписок с подозрительным лицом, после чего ИИ укажет, с какой долей вероятности вам написал мошенник;Проверка на дипфейк. Боту можно отправить фото или видео, после чего ИИ просканирует материал на использование технологии подмены лица;Определение синтеза речи. Если отправить боту аудиофайл, бот определит наличие синтезированной речи в записи. Поверка Hi-Tech Mail показала, что со своей задачей бот справляется на тройку. Редакторы отправили чат-боту запись с синтезированным голосом мошенника, который выдает себя за сотрудника банка. В итоге алгоритмы сказали, что сообщение с 7% вероятностью синтезированное и на 80% мошенническое. Антон Горелкин, депутат Госдумы, тоже протестировал бот «Стопфейк». И его опыт прошел не гладко. «Первую генерацию [бот] распознал не очень удачно (вероятность – 8%), вторую более уверенно (58%)», — сообщил Горелкин.
Бот умеет распознавать подмену лиц на фото, анализировать скриншоты с переписками и отличать реальную речь от синтезированной.
Департамент информационных технологий (ДИТ) Москвы запустил бота в мессенджере Telegram под названием «Стопфейк». Бот призван помочь распознать аферистов, пытающихся украсть личные данные и деньги россиян.
У бота есть три ключевые функции: Анализ диалога. В бот можно прислать скриншоты переписок с подозрительным лицом, после чего ИИ укажет, с какой долей вероятности вам написал мошенник;Проверка на дипфейк. Боту можно отправить фото или видео, после чего ИИ просканирует материал на использование технологии подмены лица;Определение синтеза речи. Если отправить боту аудиофайл, бот определит наличие синтезированной речи в записи.
Поверка Hi-Tech Mail показала, что со своей задачей бот справляется на тройку. Редакторы отправили чат-боту запись с синтезированным голосом мошенника, который выдает себя за сотрудника банка. В итоге алгоритмы сказали, что сообщение с 7% вероятностью синтезированное и на 80% мошенническое.
Антон Горелкин, депутат Госдумы, тоже протестировал бот «Стопфейк». И его опыт прошел не гладко. «Первую генерацию [бот] распознал не очень удачно (вероятность – 8%), вторую более уверенно (58%)», — сообщил Горелкин.
Какова ваша реакция?
