當前位置: 首頁 > 新聞公告 > 行業動態
代表委員提醒:重視AI換臉背后的倫理隱憂
來源:科技日報發布時間:2019年03月11日

  前段時間,一則短視頻火了。網友用人工智能技術,將電視劇《射雕英雄傳》中演員朱茵的臉換成了楊冪。這個楊冪版“黃蓉”毫不違和,古靈精怪,嬌俏可人,你甚至都看不出視頻有被處理過的痕跡。

  技術非常好玩,讓人躍躍欲試。而且,現在還有相關程序,只要你有足夠的素材,有一臺配置不錯的電腦,就能完成一段“變臉視頻”。

  所以,眼見也不一定為實。

  其他問題同樣就在眼前:智能駕駛車已經充分利用了人工智能技術,有一定的自主能力。商用后,如果發生了意外,出現了事故,責任人是誰,法律主體怎么認定?是制造商、算法的開發商,還是使用者本人?全國人大代表、騰訊公司董事會主席兼首席執行官馬化騰將他的顧慮一一道來。他告訴科技日報記者,新技術帶來的科技倫理問題越來越熱,但現在都沒有明確規則,“因為太新了”。

  人工智能正在滲透進你我的生活。它向你推薦餐廳,它為你進行搭配,它幫你篩選新聞,它還能替你選擇伴侶……現在,它根據你的需求,能為你定制一段并不存在的視頻。正如全國人大代表、天津大學黨委書記李家俊所說,人工智能對數據的收集和挖掘,有可能侵害個人隱私甚至危害公共安全;而從宏觀局面來說,人工智能技術的發展,還可能引發新產業革命和經濟結構調整。

  如何讓這柄“雙刃劍”在社會治理中發揮正向作用?馬化騰給出的藥方是,強化科技倫理的制度化建設。

  在國家層面,他建議針對相關新技術制定倫理準則,對新技術應用進行引導和規范。馬化騰說,行業主管部門可以與行業主體、學術團體、社會公眾等多利益相關方合作,制定相關倫理準則,并支持行業自律,包括建立倫理審查制度、成立自律組織、制定行業標準等。在國際層面,應積極推動新技術領域的全球治理,參與國際標準、規則的制定,推動建立人工智能研發與應用的全球共同倫理框架,確保人工智能持續造福全人類和全世界的發展。

  更具體一些來說,則要為相關人工智能應用建立安全標準,打擊和人工智能相關的新型犯罪,為人工智能應用探索制定恰當合理的規則。

  和馬化騰一樣,李家俊也建議建立相關倫理規約體系。在他看來,不同的主體,應發揮好各自的作用。

  首先,是決策者立德。李家俊建議,由中國科協組織人工智能及相關領域專家學者制定我國的《人工智能倫理章程》,設置人工智能的倫理框架、道德準則,其次,由國家市場監管總局牽頭,做好人工智能技術、產品的倫理審查,從技術層面做好人工智能的道德預設,“而研發者也要承擔自己的責任”。今年政府工作報告中指出,要加強科研倫理。李家俊說,可以由科技部牽頭,組建人工智能倫理委員會,對科研人員的社會責任、職業規范提供監督指導,并從制度上為人工智能研發明確禁區、劃定邊界、樹立底線。

  深度學習算法常被稱作“黑匣子”,連算法設計者自己也不知其如何運作,更別說對其給出的運算結果進行解釋。李家俊強調,應該提升人工智能算法的可解釋性和可預測性,強化人機互動間的反饋信度、理解精度和執行效度,維護健康有序的人機關系,構建社會公序良俗。

  “所有行業的高級發展、終極模式,最終都要跟AI

  結合。”馬化騰表示,對人工智能發展中的倫理問題,可以先從研究和倡議開始。“這是第一步,但現在做得也還遠遠不夠。”

  前段時間,一則短視頻火了。網友用人工智能技術,將電視劇《射雕英雄傳》中演員朱茵的臉換成了楊冪。這個楊冪版“黃蓉”毫不違和,古靈精怪,嬌俏可人,你甚至都看不出視頻有被處理過的痕跡。

  技術非常好玩,讓人躍躍欲試。而且,現在還有相關程序,只要你有足夠的素材,有一臺配置不錯的電腦,就能完成一段“變臉視頻”。

  所以,眼見也不一定為實。

  其他問題同樣就在眼前:智能駕駛車已經充分利用了人工智能技術,有一定的自主能力。商用后,如果發生了意外,出現了事故,責任人是誰,法律主體怎么認定?是制造商、算法的開發商,還是使用者本人?全國人大代表、騰訊公司董事會主席兼首席執行官馬化騰將他的顧慮一一道來。他告訴科技日報記者,新技術帶來的科技倫理問題越來越熱,但現在都沒有明確規則,“因為太新了”。

  人工智能正在滲透進你我的生活。它向你推薦餐廳,它為你進行搭配,它幫你篩選新聞,它還能替你選擇伴侶……現在,它根據你的需求,能為你定制一段并不存在的視頻。正如全國人大代表、天津大學黨委書記李家俊所說,人工智能對數據的收集和挖掘,有可能侵害個人隱私甚至危害公共安全;而從宏觀局面來說,人工智能技術的發展,還可能引發新產業革命和經濟結構調整。

  如何讓這柄“雙刃劍”在社會治理中發揮正向作用?馬化騰給出的藥方是,強化科技倫理的制度化建設。

  在國家層面,他建議針對相關新技術制定倫理準則,對新技術應用進行引導和規范。馬化騰說,行業主管部門可以與行業主體、學術團體、社會公眾等多利益相關方合作,制定相關倫理準則,并支持行業自律,包括建立倫理審查制度、成立自律組織、制定行業標準等。在國際層面,應積極推動新技術領域的全球治理,參與國際標準、規則的制定,推動建立人工智能研發與應用的全球共同倫理框架,確保人工智能持續造福全人類和全世界的發展。

  更具體一些來說,則要為相關人工智能應用建立安全標準,打擊和人工智能相關的新型犯罪,為人工智能應用探索制定恰當合理的規則。

  和馬化騰一樣,李家俊也建議建立相關倫理規約體系。在他看來,不同的主體,應發揮好各自的作用。

  首先,是決策者立德。李家俊建議,由中國科協組織人工智能及相關領域專家學者制定我國的《人工智能倫理章程》,設置人工智能的倫理框架、道德準則,其次,由國家市場監管總局牽頭,做好人工智能技術、產品的倫理審查,從技術層面做好人工智能的道德預設,“而研發者也要承擔自己的責任”。今年政府工作報告中指出,要加強科研倫理。李家俊說,可以由科技部牽頭,組建人工智能倫理委員會,對科研人員的社會責任、職業規范提供監督指導,并從制度上為人工智能研發明確禁區、劃定邊界、樹立底線。

  深度學習算法常被稱作“黑匣子”,連算法設計者自己也不知其如何運作,更別說對其給出的運算結果進行解釋。李家俊強調,應該提升人工智能算法的可解釋性和可預測性,強化人機互動間的反饋信度、理解精度和執行效度,維護健康有序的人機關系,構建社會公序良俗。

  “所有行業的高級發展、終極模式,最終都要跟AI結合。”馬化騰表示,對人工智能發展中的倫理問題,可以先從研究和倡議開始。“這是第一步,但現在做得也還遠遠不夠。”

 
魔术箱客服