Microsoft запретит использование своих технологий для распознавания лиц
Время на прочтение: 2 минут(ы)
Microsoft запрещает использование своего сервиса искусственного интеллекта для распознавания лиц полицейскими управлениями в Соединенных Штатах.
В своем обновленном кодексе поведения для сервиса Azure OpenAI компания также заявила, что интеграция с сервисом не должна использоваться для технологии распознавания лиц в реальном времени. Запрещено использование “любыми правоохранительными органами по всему миру”, с использованием всех видов съемки, “для попытки идентифицировать человека». Это решение распространяется даже в случае попыток “…идентифицировать лица, фигурирующие в базе данных подозреваемых или бывших заключенных”.
Служба Azure OpenAI предоставляет корпоративным клиентам доступ к большим языковым моделям OpenAI (LLM). Служба полностью управляется корпорацией Майкрософт и предназначена только для клиентов, которые уже сотрудничают с компанией.
На прошлой неделе компания Axon, производящая оборонные технологии и оружие, в том числе для правоохранительных органов, выпустила программное обеспечение на базе искусственного интеллекта, позволяющее полиции автоматизировать составление отчетов.
Продукт под названием Draft One представляет собой “…революционно новый программный продукт, который за считанные секунды составляет высококачественные полицейские отчеты”. По словам представителя Axon, Draft One работает на базе самого мощного LLM OpenAI, GPT-4, и может создавать отчеты даже на основе автоматической расшифровки аудиозаписей с полицейских камер.
Однако критики инструмента заявили, что внедрение этой технологии может быть проблематично, учитывая, что ИИ имеет проблемы с т.н. “галлюцинациями” — иногда они выдают ложную или бессмысленную информацию — что, в свою очередь, может быть использовано для освобождения полиции от юридической ответственности, при совершении неправомерных задержаний или иного произвола правоохранительных органов.
Дэйв Маасс, директор по расследованиям в области технологий слежки в Electronic Frontier Foundation, рассказал Forbes, что проект Draft One — это “своего рода кошмар”. Он добавил, что полиция попросту не обучена использовать инструменты, основанные на искусственном интеллекте, и поэтому может не понимать последствий и масштабов применения технологии.
Пока неизвестно, связан ли запрет на использование технологий для распознавания лиц от Microsoft с выпуском продукта Axon, но совпадение на, кик минимум, интересное.
Другие позитивные новости в мире
ВОЗ запускает собственного чат-бота S.A.R.A.H. (может отвечать на русском)
Использованы материалы:
https://learn.microsoft.com/en-us/legal/cognitive-services/openai/code-of-conduct
https://www.forbes.com/sites/thomasbrewster/2024/04/23/axon-ai-police-reports-/?sh=5bfff5fb476b
