OpenAI發布了一份政策藍圖，概述了人工智慧（AI）產業可以採取的新安全措施，以防止該技術被用於製作兒童性虐待材料。
OpenAI在4月8日的聲明中表示：「兒童性剝削是數位時代最緊迫的挑戰之一。AI正在迅速改變這些危害在整個產業中出現的方式，以及如何大規模解決這些問題。」
基於此，該公司公布了其政策藍圖，概述了「在AI時代加強美國兒童保護框架的實際前進道路」。
根據這家AI巨頭的說法，該藍圖反映並納入了來自兒童安全生態系統中多個領先組織和專家的反饋，包括美國失蹤與受剝削兒童中心（NCMEC）、檢察長聯盟——一個由美國各州檢察長組成的非營利組織——以及Thorn，一個致力於保護兒童免受性虐待的非營利組織。
OpenAI表示：「沒有任何單一干預措施可以單獨解決這一挑戰。這個框架結合了法律、營運和技術方法，以更好地識別風險、加速回應並支持問責制，同時確保執法機構在技術演進中保持強大。」
此舉是在人們對濫用AI工具（特別是圖像生成功能）製作女性和兒童（包括名人和公眾人物）的露骨圖像的擔憂日益增加之際做出的。
今年1月早些時候，英國通訊監管機構Ofcom被迫緊急聯繫X和xAI，「以了解他們為遵守保護英國用戶的法律義務採取了哪些步驟」，此前有報導稱Elon Musk的AI聊天機器人Grok被用於創建和傳播兒童和女性被數位移除衣物的露骨圖像。
歐盟也表達了類似的擔憂，義大利的數據保護機構警告AI工具的使用者和提供者注意AI深偽技術對「基本權利和自由」構成的風險。
為了解決這些擔憂，OpenAI表示其有三個關鍵優先事項：現代化法律以打擊AI生成和修改的兒童性虐待材料，改善提供者的報告和協調以支持更有效的調查，以及將安全設計措施直接建構到AI系統中以預防和檢測濫用。
該公司在4月8日的聲明中表示：「這些步驟共同使產業能夠更早、更有效地解決兒童安全問題。透過更早中斷剝削企圖、提高發送給執法部門的信號品質，以及加強整個生態系統的問責制，這個框架旨在在危害發生之前預防它，並在風險出現時幫助確保更快地保護兒童。」
OpenAI表示，該公司也致力於繼續加強保障措施以防止其系統被濫用，並與NCMEC和執法部門等合作夥伴密切合作，以改善檢測和報告。
在關於兒童安全藍圖的聯合聲明中，北卡羅來納州檢察長Jeff Jackson和猶他州檢察長Derek Brown，即檢察長聯盟AI工作組的共同主席表示，他們「歡迎這個藍圖，這是朝著使技術部門的兒童安全實踐與我們辦公室每天面對的執法現實保持一致邁出的有意義的一步」。
兩人特別強調了該框架對有效生成式AI（GenAI）保障措施需要多層防禦的認識——不是單一的技術控制，而是檢測、拒絕機制、人工監督以及對新興濫用趨勢的持續適應的組合。
這些州檢察長表示：「這反映了我們在實踐中所看到的：威脅不斷演變，靜態解決方案是不夠的。」
OpenAI的聲明也受到了NCMEC總裁兼執行長Michelle DeLaune的歡迎，她警告說GenAI「正以令人深感不安的方式加速網路兒童性剝削犯罪——降低了門檻、增加了規模並促成了新形式的傷害」。
DeLaune補充說，她「很高興看到像OpenAI這樣的公司反思如何更負責任地設計這些工具，從一開始就內建保障措施」。
為了讓人工智慧（AI）在法律範圍內正常運作並在面對不斷增長的挑戰時蓬勃發展，它需要整合一個企業區塊鏈系統，以確保數據輸入的品質和所有權——使其能夠保持數據安全，同時也保證數據的不可變性。查看CoinGeek對這項新興技術的報導，以了解更多關於為什麼企業區塊鏈將成為AI骨幹的資訊。
觀看：展示區塊鏈與AI融合的潛力
來源：https://coingeek.com/openai-blueprint-targets-ai-enabled-child-exploitation/
