規(guī)范管理確保人工智能安全向善

    ■教育積極應對人工智能挑戰(zhàn)系列評論之四

人工智能技術正在深刻改變?nèi)祟惿鐣?、改變世界，并使得教育教學更加個性化、高效化和智能化，為我國數(shù)字教育變革注入新活力新動能。同時，人工智能技術帶來的錯用、濫用等新問題也已經(jīng)引起教育戰(zhàn)線乃至全社會廣泛關注、討論甚至擔憂。對此，迫切需要從思想觀念、技術建設、制度機制和研究實踐等方面著手，加強人工智能教育應用規(guī)范管理，確保數(shù)字教育高質(zhì)量發(fā)展方向。

樹立正確的人工智能發(fā)展觀，正視人工智能的教育應用。人工智能發(fā)展是大勢所趨，將帶來一場系統(tǒng)性的觀念變革，每個人都是“學生”，都需要學習。同時，人工智能的發(fā)展也是一把雙刃劍，正向影響和負向影響都很大。當前在人工智能和教育應用上還存在著重視不夠、認知偏差以及觀望心態(tài)。思想上，對人工智能教育應用的重要性及負面影響缺乏正確認識，對教育數(shù)字化轉(zhuǎn)型戰(zhàn)略意義認識不足。認知上，存在對人工智能過高期待、過分依賴等“全能論”，對其技術的決策和推理能力盲目信任，認為人工智能將徹底改變教育、取代教師等；還存在恐懼擔憂、不信任等“風險論”，擔心使用人工智能技術會導致個人信息泄露，怕承擔責任。心態(tài)上，存在“等靠要”等觀望思想、依賴思想和畏難情緒，缺乏改革自主性、主動性和創(chuàng)新性。這都制約著人工智能教育應用，以至于出現(xiàn)教育數(shù)字化轉(zhuǎn)型的社會熱、研究熱、上層熱、基層冷、教學冷“三熱兩冷”現(xiàn)象。

我們首先要樹立正確的人工智能發(fā)展觀，正視人工智能的“兩面性”，堅持發(fā)展與安全并重、創(chuàng)新與治理相結合，既要以積極態(tài)度和責任擔當主動擁抱，又要做好潛在風險研判和防范，防止錯用、濫用現(xiàn)象出現(xiàn)。

加強技術系統(tǒng)建設，確保人工智能安全向善。人工智能本質(zhì)是服務于人的工具。人工智能技術既要發(fā)展也要安全更要向善，技術帶來的問題要靠技術解決。一是提高技術安全門檻，筑牢安全屏障，防止數(shù)據(jù)隱私泄露，降低人工智能被濫用的風險，增強教育使用人工智能技術的信任感。二是加強數(shù)據(jù)加密、權限控制、流動控制、共享控制等數(shù)據(jù)安全保護技術研發(fā)，實現(xiàn)數(shù)據(jù)從收集、存儲、處理到分析、使用等全生命周期保護，確保數(shù)據(jù)安全。三是堅持科技向善，做到為育人服務。依照有關法律法規(guī)采取必要措施，規(guī)避人工智能產(chǎn)生不當內(nèi)容，如虛假消息、歧視性言論、侵犯個人隱私等風險；將人工智能發(fā)展與以學習者為中心理念相結合，優(yōu)化算法，完善教育應用模型架構，使人工智能教育應用符合教育規(guī)律。四是加強技術研發(fā)和創(chuàng)新，提升人工智能算法透明度及其產(chǎn)品安全性和穩(wěn)定性，確保意識形態(tài)等安全，營造可信任的人工智能發(fā)展技術環(huán)境。

建設人工智能教育應用機制，確保其健康長效發(fā)展。建立健全保障人工智能健康發(fā)展的法律法規(guī)、制度體系、倫理道德。人工智能教育應用是一項復雜持久的系統(tǒng)工程，目前正在拉開帷幕，需要從制度機制層面加強規(guī)范管理，實現(xiàn)健康有序持久發(fā)展。一是建立人工智能教育應用集決策、管理、實施和督導等于一體的有效機制，明確誰來管、管什么、怎么管，誰來干、干什么、怎么干，誰來督、督什么、怎么督，推動其健康發(fā)展和防止錯用、濫用等問題。二是以符合倫理要求的方式，建立人工智能教育應用的政策框架，規(guī)范關鍵步驟，避免可能出現(xiàn)的錯用、濫用問題，如意識形態(tài)風險、個人隱私安全、“數(shù)字繭房”，以及過度沉迷依賴、教育數(shù)字鴻溝等。三是從學生的根本利益出發(fā)，做好人工智能教育應用的宣傳、指導和培訓，讓想干、敢干、能干的人干得更好，讓觀望的人行動起來，讓擔憂的人放心干，形成公眾參與、齊抓共管、協(xié)同創(chuàng)新的人工智能育人新生態(tài)。

加強研究，做到未雨綢繆、積極應對和規(guī)范管理。人工智能教育應用是一個新生事物，將會出現(xiàn)許多未知新問題，人工智能應用教育往哪里走、怎么走、走到什么程度等都是嶄新課題，亟須加強研究。由于人工智能技術涉及計算機科學、語言學、心理學等諸多學科，需要多領域研究者共同合作。一是按照“實踐優(yōu)于理論”原則，開展人工智能教育應用的比較研究、實驗研究、理論研究，及時總結典型經(jīng)驗、實踐案例以及策略路徑，推動人工智能教育應用研究向理論與實踐雙輪驅(qū)動轉(zhuǎn)變，逐步形成中國自己的數(shù)字教育倫理規(guī)范體系，為世界人工智能教育及研究貢獻中國智慧。二是聚焦人工智能教育應用的重大命題開展研究，如人工智能數(shù)據(jù)安全、交易、保障，數(shù)字規(guī)制與數(shù)字能力之間的平衡，進學校、進課堂疏堵結合等，這些都是人工智能教育應用亟待研究解決的重大命題。三是探索人工智能育人新規(guī)律。當前，人工智能對教育的正向和負向影響尚處在萌芽狀態(tài)，產(chǎn)生的教育新現(xiàn)象、新問題尚未顯現(xiàn)，引發(fā)的教育新規(guī)律尚待揭示，需從數(shù)字教育學的視角進行理論研究和實踐突破，對過程中發(fā)現(xiàn)的新問題進行及時優(yōu)化、糾偏。

（作者系教育部課程教材研究所研究員）

《中國教育報》2023年10月13日第2版