EN

人工智能北京共識

人工智能的發展關乎全社會、全人類及環境的未來。下述準則對推進人工智能的研發、使用、治理和長遠規劃提出倡議。通過推動人工智能的健康發展,助力于人類命運共同體的構建,實現對人類和自然有益的人工智能。

研發

人工智能的研究與開發應遵循以下原則:

  • 造福:人工智能應被用來促進社會與人類文明的進步,推動自然與社會的可持續發展,造福全人類與環境,增進社會與生態的福祉。

  • 服務于人:人工智能的研發應服務于人類,符合人類價值觀,符合人類的整體利益;應充分尊重人類的隱私、尊嚴、自由、自主、權利;人工智能不應被用來針對、利用或傷害人類。

  • 負責:人工智能的研發者應充分考慮并盡力降低、避免其成果所帶來的潛在倫理、法律、社會風險與隱患。

  • 控制風險:人工智能及其產品的研發者應不斷提升模型與系統的成熟度、魯棒性、可靠性、可控性,實現人工智能系統的數據安全、系統自身的安全以及對外部環境的安全。

  • 合乎倫理:人工智能的研發應采用符合倫理的設計方法以使得系統可信,包括但不限于:使系統盡可能公正,減少系統中的歧視與偏見;提高系統透明性,增強系統可解釋度、可預測性,使系統可追溯、可核查、可問責等。

  • 多樣與包容:人工智能的發展應該體現多樣性與包容性,盡可能地為惠及更多的人而設計,尤其是那些技術應用中容易被忽視的、缺乏代表性的群體。

  • 開放共享:鼓勵建立人工智能開放平臺,避免數據與平臺壟斷,最大范圍共享人工智能發展成果,促進不同地域、行業借助人工智能機會均等地發展。



使用

人工智能的使用應遵循以下原則:

  • ?善用與慎用:人工智能的使用者應具備使人工智能系統按照設計運行所必需的知識和能力,并對其所可能帶來的潛在影響具備充分認識,避免誤用、濫用,以最大化人工智能帶來的益處、最小化其風險。

  • ?知情與同意:應采取措施確保人工智能系統的利益相關者對人工智能系統對其權益的影響做到充分的知情與同意。在未預期情況發生時,應建立合理的數據與服務撤銷機制,以確保用戶自身權益不受侵害。

  • ?教育與培訓:人工智能的利益相關者應能夠通過教育與培訓在心理、情感、技能等各方面適應人工智能發展帶來的影響。


治理

人工智能的治理應遵循以下原則:

  • ?優化就業:對于人工智能對人類就業的潛在影響,應采取包容的態度。對于一些可能對現有人類就業產生巨大沖擊的人工智能應用的推廣,應采取謹慎的態度。鼓勵探索人機協同,創造更能發揮人類優勢和特點的新工作。

  • ?和諧與合作:應積極開展合作建立跨學科、跨領域、跨部門、跨機構、跨地域、全球性、綜合性的人工智能治理生態系統,避免惡意競爭,共享治理經驗,以優化共生的理念共同應對人工智能帶來的影響。

  • ?適應與適度:應積極考慮對人工智能準則、政策法規等的適應性修訂,使之適應人工智能的發展。人工智能治理措施應與人工智能發展狀況相匹配,既不阻礙其合理利用,又確保其對社會和自然有益。

  • ?細化與落實:應積極考慮人工智能不同場景、不同領域發展的具體情況,制定更加具體、細化的準則;促進人工智能準則及細則的實施,并貫穿于人工智能研發與應用的整個生命周期。

  • ?長遠規劃:鼓勵對增強智能、通用智能和超級智能的潛在影響進行持續研究,以確保未來人工智能始終向對社會和自然有益的方向發展。



文本正文
復制文本
媒體聯絡
media@baai.ac.cn
大鸡巴操逼网站