科技資訊網2023年02月20日最新文章導讀：AI寫作假新聞鬧出大烏龍 新技術更需要新監管
據浙江之聲官微消息，2月16日，一則“浙江省杭州市政府3月1號取消機動車依尾號限行”的“新聞”在網上傳開了，這條看起來沒頭沒尾的“新聞”一時間還真讓不少人信以為真了。2月17日，杭州警方證實消息不實，警方已介入調查。
很快這起烏龍事件的源頭也被找到了，原來是杭州某小區業主在群眾討論最近非常熱門的AI聊天機器人chatgpt時，一位業主開玩笑說自己要用chatgpt來寫一條關于杭州取消限行的新聞稿，隨后將chatgpt生成的文章發布在了群中。結果被群內不明真相的其他業主截圖轉發了，因此在網上流傳開來，引起了誤會，該業主后續也在群中表示了歉意。
這起烏龍事件引發了不少網友的討論，從性質上來說，這條假新聞屬于謠言，但另一方面，這個錯誤究竟應該誰來負責又引發了不少網友討論。一方面有觀點認為，應該由截圖的人負責，該業主已經在群里說了自己要用chatgpt來寫個“新聞”，截圖轉發的人沒有看上下文就轉發到公開的網絡平臺，導致了錯誤信息的傳播。另一方面也有觀點認為發布人也應當承擔責任，如果沒有發布人的一時興起，用AI來編造了一條像模像樣的假消息，也不會造成群內其他人的誤會。
早前就曾有海外研究機構對chatgpt寫作表示隱憂，擔心它將會成為謠言制造機。人工智能快速迭代所帶來的一系列倫理、道德問題要如何從法律層面應對解決，似乎也還處于探索的初級階段。2022年我國出臺了《互聯網信息服務算法推薦管理規定》，首次提出來人工智能的算法應當堅持社會主義主流價值觀，不能利用算法危害國家安全和社會公共利益、擾亂經濟秩序和社會秩序、侵犯他人合法權益。
今年1月10日起施行的《互聯網信息服務深度合成管理規定》中明確，任何組織和個人不得利用深度合成服務制作、復制、發布、傳播法律、行政法規禁止的信息，不得利用深度合成服務從事危害國家安全和利益、損害國家形象、侵害社會公共利益、擾亂經濟和社會秩序、侵犯他人合法權益等法律、行政法規禁止的活動。
AI技術迭代給監管帶來了新的挑戰，數據安全漏洞帶來的隱私風險如何規避，AI系統中哪些內容應該被列入高風險區，“眼見不為實”的深度偽裝要如何識別，深度偽裝造成的危害要怎么處理，人工智能應當適用怎樣的倫理規則……2021年，歐盟委員會曾提出人工智能規則法案，日前亦有消息稱《歐盟人工智能法案》將于三月初進行討論，但該法案的推進遭遇了阻力。
或許就像世界上出現第一輛汽車時一樣，當第一輛汽車上路時也曾造成過無數混亂，但如今也有了完善的交通法規約束監管，車禍雖然仍然無法避免，但一場交通事故背后的權責劃分卻有法可依。人工智能新技術就像剛剛誕生的汽車，當新的監管方案也上了路，這輛“汽車”才算是穩當了。
以上有關“AI寫作假新聞鬧出大烏龍 新技術更需要新監管”資訊由科技資訊網小編整理發布！更多歡迎關注我們
