Business
OpenAI 成立安全委員會，開始培訓最新的人工智能模型
OpenAI 表示正在成立一個新的安全與保安委員會，並已開始培訓一個新的人工智能模型，以取代支持其 ChatGPT 聊天機器人的 GPT-4 系統。
這家位於舊金山的初創公司在週二的一篇博文中表示，該委員會將就其項目和運營的“關鍵安全與保安決策”向全體董事會提供建議。
在研究人員揚·萊克（Jan Leike）辭職並批評OpenAI讓安全“被鮮亮的產品擠到了次要地位”之後，圍繞AI安全的爭論正在該公司內部蔓延。
OpenAI表示，它“最近開始培訓其下一代模型”，其人工智能模型在功能和安全性上領先於行業，盡管未提及爭議。該公司表示：“我們歡迎在這一重要時刻進行充分辯論。”
AI 模型是在廣泛數據集上接受培訓以生成按需文本、圖像、視頻和類似人類對話的預測系統。前沿模型是最強大、前沿的人工智能系統。
安全委員會成員包括 OpenAI CEO 山姆·阿特曼和主席布雷特·泰勒，還有其他兩名董事會成員：Quora CEO 亞當·丹吉洛和前 Sony 總法律顧問妮可·塞利格曼。 OpenAI表示，四名公司技術和政策專家也是成員。
該委員會的首要任務將是評估並進一步發展OpenAI的流程和保障措施，並在90天內向董事會提出建議。該公司表示，隨後將以符合安全和保安標準的方式公開發布其採納的建議。”
