防人工智能失控危害人類

    加科學家開發監控軟件

    【本報訊】據中央社紐約三日消息：憂心生成式人工智能(generative AI)快速普及，人工智能先驅研究者、加拿大電腦科學教授班吉歐正在開發軟件，以監控這項日益取代人類工作的技術。

    非營利組織研發

    法新社報道，班吉歐被認為是人工智能革命的教父之一，他六月三日宣佈成立非營利組織LawZero，目標為降低人工智能的固有風險。

    班吉歐是有電腦界諾貝爾獎之稱的圖靈獎得主，多年來一直警告有關人工智能的風險，無論是被惡意使用，還是軟件本身出現問題。

    隨着所謂的人工智能代理(AI agent)的發展，風險正在增加。這種技術讓電腦作出過去曾經由人類工人作出的決策。

    人工智能代理的目標是建立虛擬員工，以極低成本完成人類幾乎能夠做到的任何工作。

    班吉歐說：“目前，人工智能的開發是為了實現利潤最大化。”他還說，即使人工智能持續出現缺陷，它也仍然被廣泛應用。

    另外，對班吉歐來說，賦予人工智能類似於人類的自主性很容易被用於惡意目的，例如散播虛假消息、生物武器和網絡攻擊。

    他說：“如果我們控制不了自作主張的超智能人工智能，它們可能會給人類造成極大傷害。”

    科學家人工智能

    LawZero表示，組織首要任務之一是開發“科學家人工智能”(Scientist AI)，這是一種經過專門訓練的人工智能形式，可以用作安全防護，確保其他人工智能的行為是正確的。

    LawZero目前有超過十五名研究人員，並獲得谷歌公司前執行長施密特和他的妻子溫蒂創立的慈善機構施密特科學的資助。