AI 中的女性：研究印度AI社会影响的 Urvashi Aneja

為了讓AI專注的女性學者和其他人得到他們應得的——已經遲到的——關注，TechCrunch正在推出一系列訪談，專注於為AI革命做出貢獻的卓越女性。隨著AI的蓬勃發展，我們將在整年內發布多篇文章，突出通常被忽視的重要工作。閱讀更多專訪這裡。

Urvashi Aneja是 Digital Futures Lab 的創始主任，該實驗室是一個跨學科研究項目，致力於研究全球南方科技與社會之間的互動。她還是英國倫敦獨立政策研究所查塔姆宏觀計劃的副研究員。

Aneja目前的研究重點是印度的算法決策系統對社會的影響，她的研究團隊位於印度，而且同時還關注平台治理。Aneja最近撰寫了一項有關印度AI目前應用情況的研究，審核了跨行業使用案例，包括警察和農業。

問與答

簡要地講一下，您是如何進入AI領域的？是什麼吸引了您？

我開始我的職業生涯是在人道主義領域的研究和政策參與。幾年來，我研究了在低資源環境中的長期危機中數碼技術的應用。我很快就意識到，在處理弱勢人群時，創新和實驗之間存在著微妙的界線。從這個經驗中，我深深關注數位技術，特別是AI潛力周圍的技術主義敘事。同時，印度啟動了其“數位印度”使命和人工智能國家戰略。我對AI作為印度複雜社會經濟問題的解決方案的主導敘事感到不安，以及對該問題周圍缺乏批評性討論的完全缺乏。

您在AI領域最自豪的工作是什麼？

我很自豪，我們能夠引起對AI生產的政治經濟和對社會正義、勞工關係和環境可持續性的更廣泛影響的關注。很多時候，關於AI的敘述都聚焦於特定應用的收益，最多僅僅是該應用的利益和風險。但這忽視了樹木之森——以產品為導向的鏡片掩蔽了更廣泛的結構性影響，比如AI對認識不正義的貢獻、勞動技能才能的喪失和在大部分世界中負責的無責任權力的延續。我也為我們能夠將這些擔憂轉化為具體政策和監管感到自豪——無論是在設計用於公共部門的AI使用的採購指南，還是在在全球南方的法律程序中提供證據反對大型科技公司。

您如何應對男性主導的科技行業以及延伸的AI行業的挑戰？

讓我的工作說話。並不斷地問：為什麼？

您會給尋求進入AI領域的女性什麼建議？

發展您的知識和專業知識。確保您對問題的技術理解是堅實的，但不要僅僅專注於AI。反而，廣泛學習，以便您可以在各領域和學科之間建立聯繫。並不是足夠多的人理解AI作為一個社會技術系統，這是歷史和文化的產物。

AI在不斷發展中面臨的一些迫切問題是什麼？

我認為最迫切的問題是少數技術公司的權力集中。雖然這個問題並不新鮮，但隨著大型語言模型和生成式AI的新發展，這個問題正在加劇。這些公司中的許多現在都在煽動圍繞AI存在風險的憂慮。這不僅是對現有危害的一種轉移，而且還把這些公司定位為解決AI相關危害的必要條件。在許多方面，我們正在喪失在劍橋分析事件後所出現的“技術反彈”的一些勢頭。在印度等地方，我也擔心AI被定位為經濟社會發展的必要條件，提供了一個機會來超越持續存在的挑戰。這不僅對AI的潛力夸大，而且忽略了需要發展保障措施的制度發展的問題。我們還沒有嚴肅地考慮到AI的環境影響——目前的航向可能是不可持續的。在當前的生態系統中，受氣候變化影響最嚴重的人不太可能成為AI創新的受益者。

AI用戶應該意識到哪些問題？

用戶需要意識到AI不是魔法，也遠遠沒有接近人類智慧。它是一種計算統計的形式，具有許多有益的用途，但最終只是基於歷史或先前模式的概率猜測。我相信用戶還應該做好其他問題的意識，但我要警告我們應該警惕試圖將責任轉移至用戶的企圖。我最近在全方位使用生成式AI工具的低資源環境中看到這種情況——與其對這些實驗性和不可靠的技術持謹慎態度，焦點常常轉移到最終用戶，比如農民或前線卫生工作者需要提高技能。

負責地構建AI的最佳方法是什麼？

這必須從首先評估AI的需求開始。AI能唯一解決問題，還是有其他方法可以？如果我們要構建AI，是複雜的黑箱模型必要，還是一個更簡單的基於邏輯的模型可以做得一樣好？我們還需要將領域知識重新置中到AI的構建中。在對大數據的著迷中，我們犧牲了理論——我們需要建立基於領域知識的變革理論，這應該是我們構建模型的基礎，不僅僅是大數據。當然，這還包括參與、包容團隊、勞動權益等關鍵問題。

投資者如何更好地推動負責任的AI？

投資者需要考慮AI生產的整個生命週期——不僅僅是AI應用的生產或產出。這需要關注一系列問題，例如勞動是否被公平評價、環境影響、公司的商業模型（即基於商業監控嗎？）以及公司內部的責任制度。投資者還需要要求更好和更嚴謹的有關AI應用的潛在益處的證據。