Clearview AI тестирует ИИ для создания цифровых профилей: возможности и риски

Компания Clearview AI проводит испытания нового ИИ-инструмента под названием InquiryIQ, который позволяет автоматически собирать информацию о людях после их идентификации по лицу. Этот прототип способен объединять данные из открытых источников, включая социальные сети, адреса, информацию о работодателях и предполагаемые связи, как сообщает WIRED.

Журналисты обнаружили инструмент, изучив файлы, которые веб-страница авторизации Clearview AI отправляла в браузер до входа пользователя. Эти файлы содержали интерфейсный код, а также инструкции и описания функций. Однако WIRED не смог самостоятельно подтвердить заявленные возможности, так как не получил доступ к серверной части InquiryIQ.

Традиционно Clearview AI использует распознавание лиц для получения начальной информации для расследований. После получения совпадения сотрудники обычно проверяют полученные данные вручную. InquiryIQ автоматизирует этот процесс, самостоятельно проводя поиск по интернету и анализируя фотографии и страницы, чтобы создать Candidate Graph — граф, содержащий возможные личности и их связи.

В интерфейсе системы заложена возможность указания таких характеристик, как возраст, пол и раса, которые, как утверждается, помогают ИИ принимать более обоснованные решения. Однако точное влияние этих параметров на результаты поиска остается неизвестным.

Компания заявляет, что правоохранительные органы никогда не пользовались InquiryIQ, и в текущем виде выпускать его не планируется. Автоматически найденные данные могут содержать ошибки, и пользователям предлагается проверять их самостоятельно. Однако профессор права Вудро Харцог выражает сомнения в эффективности такого контроля, отмечая, что со временем проверка может стать формальностью.

В интерфейсе InquiryIQ доступны различные ИИ-модели для анализа, включая модель от SpaceXAI и платформу Amazon Bedrock. Представители Amazon заверили, что AWS не участвует в разработке инструмента. Эксперты указывают на возможность автоматизации сокращать время, необходимое для сбора данных, что раньше занимало часы или дни.

Профессор Эндрю Гатри Фергюсон видит и положительные аспекты такой автоматизации, отмечая, что сохранение промптов и запросов может упростить аудит расследований. Тем временем, база данных Clearview AI включает более 70 миллиардов изображений, и более 2000 американских правоохранительных ведомств уже используют эту технологию.

В 2023 году сообщалось, что полиция США использовала систему распознавания лиц компании почти миллион раз, а глава Clearview AI, Хоан Тон-Тэт, заявлял о базе в 30 миллиардов изображений. Власти Франции ранее оштрафовали компанию на 20 миллионов евро за незаконную обработку персональных данных.