NIST推出新平台評估生成式人工智能

周一，美國商務部機構美國國家標準與技術研究院（NIST）宣布推出NIST GenAI，這是由NIST領導的新計劃，旨在評估包括文字和圖像生成式人工智能技術在內的生成式人工智能。

NIST GenAI將發布基準，幫助創建“內容真實性”檢測（即深偽檢查）系統，並鼓勵開發軟件來識別假或誤導性的人工智能生成的信息的來源，NIST在新推出的NIST GenAI網站和新聞稿中解釋道。

新聞稿中寫道：“NIST GenAI計劃將發布一系列挑戰問題，以評估和衡量生成式人工智能技術的能力和局限性。這些評估將用於確定促進信息完整性的策略，並指導數字內容的安全和負責任使用。”

NIST GenAI的第一個項目是一項旨在建立可靠區分人類創建和人工智能生成的系統的試點研究，首先是從文字方面入手（儘管許多服務宣稱能檢測深偽，研究和我們自己的測試顯示至少在文字方面是不穩定的）。 NIST GenAI邀請來自學術界、工業界和研究實驗室的團隊提交“生成器” - 人工智能系統來生成內容 - 或“辨識器”，這些系統旨在識別人工智能生成的內容。

在研究中，生成器必須根據主題和一組文件生成250個字或更少的摘要，而辨識器必須檢測所給摘要是否可能是由人工智能撰寫的。為確保公平，NIST GenAI將提供必要數據來測試生成器。 NIST表示，根據公開數據訓練的系統，以及未“遵守適用法律法規”的系統將不被接受。

試點項目的註冊將於5月1日開始，第一輪截止日期為8月2日。預計研究的最終結果將於2025年2月公布。

NIST GenAI的推出和以深偽為重點的研究來源于人工智能生成的錯誤信息和虛假信息量呈指數增長。

據深偽檢測公司Clarity的數據，與去年同期相比，今年創建和發布的深偽數量增加了900%。這顯然引起了警報。 YouGov的最新民意調查發現，85%的美國人擔心在線傳播引人誤解的深偽。

NIST GenAI的推出是NIST對美國總統喬·拜登關於人工智能的行政命令的一部分，該命令明確要求人工智能公司對其模型如何運作提供更大的透明度，並建立了一系列新標準，包括對人工智能生成的內容進行標記。

這也是NIST在前OpenAI研究人員保羅·克里斯蒂安諾被任命為該機構人工智能安全研究所之後的首個人工智能相關宣布。

克里斯蒂安諾因其“悲觀主義”觀點而備受爭議；他曾經預測“人工智能發展有50%的機會會導致[人類的毀滅]”。據報道，包括NIST內部科學家在內的批評人士擔心克里斯蒂安諾可能會鼓勵人工智能安全研究所專注於“幻想情景”，而不是來自人工智能的現實、更直接風險。

NIST表示，NIST GenAI將為人工智能安全研究所的工作提供資訊。