微軟禁止美國警察部門使用企業AI工具進行人臉識別

微軟已重申禁止美國警察部門使用生成式AI進行人臉識別，透過Azure OpenAI服務，該公司完全管理的、面向企業的OpenAI技術封裝。

周三新增的條款更清楚地禁止將Azure OpenAI服務與美國警察部門的人臉識別集成，包括與OpenAI當前及可能的未來影像分析模型的集成。

另一個新的條款涵蓋“全球任何執法機構”，明確禁止在移動攝像頭上使用“實時人臉識別技術”，如佩戴攝像頭和車載攝像頭，試圖在“無法控制的野外”環境中識別一個人。

政策變化發生在一週之後，Axon宣布推出了一種新產品，利用OpenAI的GPT-4生成文本模型總結來自佩戴攝像頭的音頻。批評者很快指出潛在的問題，如幻覺（即使是當今最好的生成AI模型也會虛構事實）以及由訓練數據引入的種族偏見（這尤為令人擔憂，因為有色人種比他們的白人同行更有可能被警方攔截）。

目前尚不清楚Axon是否通過Azure OpenAI服務使用了GPT-4，如果是，則更新後的政策是否是為應對Axon的產品推出而制定的。OpenAI以前曾限制其模型用於人臉識別的API。我們已聯繫Axon、微軟和OpenAI，如果收到回應，將更新本帖。

新條款為微軟留出了餘地。

Azure OpenAI服務的完全禁止只適用於美國，而不適用於國際執法機構，並且不涵蓋在受控環境中使用靜止攝像頭進行人臉識別，如辦公室（雖然條款禁止美國警察使用人臉識別）。

這與微軟及其密切合作夥伴OpenAI最近對待與AI相關的執法和國防合同的方法相一致。

今年一月，《彭博社》的報導揭示了OpenAI正與五角大樓合作進行多個項目，包括用於網絡安全能力，這是一種與這家初創公司早期禁止將其AI提供給軍事部門的做法不同。此外，微軟已提議使用OpenAI的圖像生成工具DALL-E，幫助國防部（DoD）構建執行軍事行動的軟件，詳情見《Intercept》。

二月，Azure OpenAI服務已可在微軟的Azure政府產品中使用，增加了對政府機構（包括執法機構）的遵循和管理功能。在一篇博客文章中，微軟政府部門微軟聯邦的高級副總裁Candice Ling承諾，Azure OpenAI服務將被提交給DoD進行支持DoD任務的工作負載的額外授權。

更新：發文後，微軟表示其原始的服務條款更改存在錯誤，事實上，該禁令僅適用於美國的人臉識別。這不是一項對警察部門使用該服務的全面禁令。