喬治亞州推動 AI 治理 導入「護欄」機制確保應用安全

商傳媒|何映辰/台北報導

喬治亞州政府正積極推動人工智慧(AI)的應用與治理,近日宣布與科技公司 Darwin AI 合作,將於全州範圍內建立一套全面的 AI「護欄」機制,以確保政府部門在導入 AI 工具時能兼顧安全與合規。

根據喬治亞州科技管理局(Georgia Technology Authority)的聲明,此合作旨在為全州 AI 治理奠定基礎。透過 Darwin AI 的解決方案,各政府機關將能擁有一個統一的平台,來管理 AI 政策、監督資料紀錄,並維持跨部門的合規性。具體而言,該州將利用 Darwin Govern 產品設定 AI 使用規則、政策及限制,建立一套「基礎優先」的 AI 發展模式。

一旦「護欄」機制到位,各機構便能運用 Darwin LaunchPad 平台,設計並部署符合任務需求的 AI 代理工作流程(agentic workflows),推動 AI 應用從試點專案走向大規模生產,實現永續採用。

喬治亞州科技管理局首席數位與 AI 官 Nikhil Deshpande 指出,初期工作將著重於掌握全州政府內部 AI 的使用現況。他強調,AI 功能已以前所未有的速度整合至軟體產品中,許多組織甚至難以追蹤其應用廣度。

Deshpande 表示,Darwin AI 也將協助喬治亞州將現有的 AI 治理原則「轉化」為日常監督流程,讓各機構能更容易評估 AI 工具、文件化核准用途、管理風險,並在擴大採用 AI 的同時,確保其問責制。此次與 Darwin AI 的合作,展現喬治亞州力圖在人工智慧領域建立領導地位的決心。該州已設有 Office of Artificial Intelligence 和 Innovation Lab 等專責單位。

Deshpande 認為,這項協議進一步證明喬治亞州正朝向「營運治理」(operational governance)邁進,結合政策、培訓、創新及護欄工具,向其他州展示「負責任的 AI 採用模式」。他相信,此舉將有助於提升民眾對公共部門使用 AI 的信任。隨著 AI 在政府部門的應用日漸普及,相關討論已從「如何使用」轉變為「如何負責任地擴大應用規模」。

Deshpande 預計,公共部門 AI 的應用將持續成熟,越來越多組織將分享最佳實踐,採納國家標準及技術研究所(NIST)等公認框架,建立 AI 系統清單,並建立能在管理風險同時鼓勵創新的治理結構。喬治亞州將以能否在不損害公眾信任的前提下擴大 AI 應用規模,而非僅以「部署 AI 工具的數量」,來衡量與 Darwin AI 合作的成功與否。其他評估因素包括政府機構 AI 使用的透明度、符合標準的程度,以及降低未經核准 AI 所帶來的風險。

Deshpande 總結:「最終的成功意味著創建一個環境,讓各機構能夠自信地創新,因為適當的治理、監督和問責機制已然到位。」對於 2024 年成立的 Darwin AI 而言,這項與州政府的合作是一項重大勝利。該公司去年透過洞見創投(Insight Partners)領投的 A 輪募資,成功募得 1,500 萬美元。

頭條留言
商傳媒
商傳媒https://sunmedia.tw/
商傳媒是一個提供財經、科技、智慧製造、醫療、產業資訊,為主要服務內容的金融、科技網路媒體,其宗旨在於提供台灣中小企業一個產品新聞的平台,未來更將推廣至世界各國!
- 廣告 -
- 廣告 -

最新文章

AI 監測普及《財富》500 強 員工憂慮「代幣消...

商傳媒|葉安庭/綜合外電報導根據外媒報導,近乎所有...

美股估值創新高 麥格理策略師警告市場瀕臨巨大泡沫

商傳媒|方承業/綜合外電報導美國股市近期屢創歷史新...

AI時代客戶體驗升級挑戰 企業競逐系統整合非單純模...

商傳媒|何映辰/台北報導人工智慧(AI)正以前所未...

34歲房仲驚覺肝發炎指數破表 每3人就1人有脂肪肝...

墨新聞|記者王承綸/高雄報導我明明生龍活虎,怎麼可...

雲林慈善基金會捐新北愛維養護中心用餐圍兜 守護身障...

墨新聞|記者孫筱華/新北報導財團法人新北市私立雲林...