Изображение сгенерировано искусственным интеллектом Bing Стартап Reality Defender, разрабатывающий решения для обнаружения подделок на базе ИИ, привлек $15 млн инвестиций в раунде A. Средства пойдут на расширение команды и улучшение моделей.
Reality Defender предлагает API и веб-приложение для анализа видео, текстов, аудио и изображений на предмет признаков генерации искусственным интеллектом.
По словам одного из основателей компании Бена Колмана (Ben Colman), их запатентованные модели, обученные на собственных данных, достигают более высокой точности обнаружения, чем у конкурентов. Ориентируясь на исследования, компания стремится опережать появление новых методов генерации контента, чтобы своевременно их выявлять.
В планах стартапа — представить инструмент для выделения сгенерированных ИИ фрагментов текста и обнаружения глубоких подделок голоса в реальном времени.
Reality Defender основана в 2021 году и первоначально была некоммерческой организацией. Привлечение инвестиций связано с ростом проблемы дипфейков и спросом на их выявление.
По оценкам, в 2022 году количество видео- и аудио-подделок в интернете выросло в 3-8 раз из-за коммерциализации инструментов генеративного ИИ.
Раньше создание дипфейков было дорогим и трудоемким процессом. Но сейчас это стало доступно благодаря сервисам вроде ElevenLabs.
Платформы ИИ вводят фильтрацию контента, но это не всегда эффективно. Колман считает, что опасность представляет распространение фейков в соцсетях.
