Microsoft запретил полиции применять ИИ для распознавания лиц  Через OpenAI Service

В условиях клиентского обслуживания платформы Azure OpenAI Service появился запрет на интеграцию сервиса с полицейскими системами в США с целью распознавания лиц, включая интеграцию с существующими и перспективными моделями ИИ для анализа изображений. Отдельный пункт документа запрещает использование «технологии распознавания лиц в реальном времени» на мобильных камерах — включая нательные камеры и видеорегистраторы.

Microsoft обновил политику после того, как производитель технологического оборудования для вооруженных сил и правоохранительных органов Axon анонсировал новую систему расшифровки записи звука с нательных камер на основе GPT-4. Правозащитники указали, что она может работать некорректно из-за склонности ИИ к галлюцинациям и предубеждениям.

Запрет на доступ к Azure OpenAI Service распространяется только на полицию США, но не правоохранительные органы других стран. Он также не распространяется на системы распознавания лиц с помощью стационарных камер. Платформа Azure OpenAI Service с дополнительными возможностями стала доступна в пакете Microsoft Azure для государственных учреждений в феврале текущего года.

Здесь мы рассказываем, как работает система распознавания лиц в метро: