生成式人工智能給教育帶來哪些挑戰(zhàn)

以ChatGPT為代表的生成式人工智能發(fā)展迅猛，為各行各業(yè)的創(chuàng)新和發(fā)展提供了新的工具和視角，教育行業(yè)也不例外。人們對(duì)于生成式人工智能的使用，生成式人工智能對(duì)教育、對(duì)學(xué)生影響的討論也有著不同的態(tài)度。的確，科技是發(fā)展的利器，也可能成為風(fēng)險(xiǎn)的源頭。生成式人工智能在教育應(yīng)用中潛力巨大，但其嵌入教育全過程的教學(xué)實(shí)踐也帶來前所未有的倫理風(fēng)險(xiǎn)。

首先，生成式人工智能的新知識(shí)生產(chǎn)形式有可能帶來教學(xué)主體地位的混淆。生成式人工智能憑借自主學(xué)習(xí)和知識(shí)遷移實(shí)現(xiàn)創(chuàng)造性的知識(shí)生產(chǎn)，其強(qiáng)大的知識(shí)儲(chǔ)備能夠直接呈現(xiàn)答案，消解傳統(tǒng)教師由知識(shí)所賦予的權(quán)威和聲望，造成教師的主體地位被質(zhì)疑。學(xué)生運(yùn)用生成式人工智能快捷途徑獲取知識(shí)，雙向知識(shí)探索轉(zhuǎn)變?yōu)閱蜗蛑R(shí)灌輸，不利于學(xué)生創(chuàng)造性思維、批判性思維的培養(yǎng)，一定程度上有悖于“培養(yǎng)全面發(fā)展的人”的教育理念。

其次，生成式人工智能的語言模型依賴將暴露技術(shù)本身的缺陷。生成式人工智能技術(shù)依托海量的數(shù)據(jù)、先進(jìn)的算法、強(qiáng)大的算力優(yōu)化教育內(nèi)容的供給，促進(jìn)教學(xué)方式的創(chuàng)新。然而這種智能技術(shù)自身缺陷也引發(fā)一定技術(shù)風(fēng)險(xiǎn)。一方面，生成式人工智能受訓(xùn)練數(shù)據(jù)集來源不確定的影響，可能會(huì)生成虛假或錯(cuò)誤的內(nèi)容，導(dǎo)致學(xué)生將錯(cuò)誤信息當(dāng)作正確答案，長(zhǎng)期下去可能擾亂學(xué)生的知識(shí)體系；另一方面，基于人類反饋的強(qiáng)化學(xué)習(xí)技術(shù)的模型訓(xùn)練存在人的主觀價(jià)值滲透進(jìn)算法設(shè)計(jì)的可能，導(dǎo)致算法偏見的產(chǎn)生，進(jìn)一步強(qiáng)化教育不公平問題。

再其次，生成式人工智能的強(qiáng)人機(jī)交互技術(shù)將可能消解傳統(tǒng)師生的倫理關(guān)系。生成式人工智能可以賦能沉浸式教學(xué)環(huán)境的構(gòu)建，增強(qiáng)學(xué)生的學(xué)習(xí)體驗(yàn)。然而這種賦能一旦過多地介入師生互動(dòng)，將會(huì)使師生之間的直接溝通和情感交流大大減少，甚至產(chǎn)生能夠代替教師的錯(cuò)覺，導(dǎo)致在教育過程中，生成式人工智能技術(shù)與人的關(guān)系更加緊密，而真實(shí)的人與人之間的關(guān)系難以建立，一定程度上影響師生關(guān)系，妨礙學(xué)生情感發(fā)展和健全人格的形成。

2022年中共中央辦公廳、國務(wù)院辦公廳印發(fā)《關(guān)于加強(qiáng)科技倫理治理的意見》，2023年7月國家網(wǎng)信辦聯(lián)合國家發(fā)展改革委、教育部、科技部等六部門出臺(tái)《生成式人工智能服務(wù)管理暫行辦法》，從國家層面加強(qiáng)科技倫理治理、促進(jìn)人工智能健康發(fā)展和規(guī)范應(yīng)用。對(duì)教育實(shí)踐來說，這既是把好人工智能技術(shù)在教育應(yīng)用中向善的核心點(diǎn)，更是主動(dòng)應(yīng)對(duì)人工智能技術(shù)倫理挑戰(zhàn)的關(guān)鍵。

一是明確智能教育應(yīng)用限度，提升人工智能素養(yǎng)。一方面，要堅(jiān)守人工智能技術(shù)教育應(yīng)用的倫理底線，讓其始終處在適合的閾值內(nèi)，最大限度釋放生成式人工智能賦能教育的活力。明確教育始終以人的自由全面發(fā)展為根本目的，生成式人工智能技術(shù)的應(yīng)用只是為了更好地服務(wù)教學(xué)實(shí)踐，不能為了技術(shù)而技術(shù)。另一方面，隨著教育場(chǎng)景中融入生成式人工智能技術(shù)，社會(huì)對(duì)教師和學(xué)生的角色也賦予更高的要求。對(duì)教師來說，由知識(shí)傳授者轉(zhuǎn)變?yōu)閮r(jià)值觀的引導(dǎo)者。對(duì)此，良好的人工智能素養(yǎng)不僅能消解和防范自我主體變化，還能夠更好地為學(xué)生提供更加優(yōu)質(zhì)的教學(xué)服務(wù)。對(duì)學(xué)生來說，提升人工智能素養(yǎng)關(guān)乎其適應(yīng)未來智能社會(huì)的能力，是激發(fā)其高階創(chuàng)造能力的重要基礎(chǔ)。這在一定程度上能夠防范單向知識(shí)灌輸造成的思維惰化和個(gè)性消弭風(fēng)險(xiǎn)。

二是規(guī)制人工智能生成內(nèi)容，實(shí)現(xiàn)智能技術(shù)旨?xì)w。在生成式人工智能教育應(yīng)用的研發(fā)階段，不僅要構(gòu)建適用于教育領(lǐng)域的大模型訓(xùn)練數(shù)據(jù)池，從源頭防止錯(cuò)誤、虛假信息和不良內(nèi)容出現(xiàn)，還要提升語言模型算法的穩(wěn)定性，避免生成式人工智能造成的倫理傷害。在推進(jìn)生成式人工智能教育倫理治理階段，要加強(qiáng)對(duì)智能技術(shù)的監(jiān)管，強(qiáng)化輸出信息的準(zhǔn)確性，建立生成式人工智能問責(zé)機(jī)制，建立健全法規(guī)制度體系來規(guī)范生成式人工智能賦能教育，確保其透明性、安全性，加強(qiáng)其魯棒性，實(shí)現(xiàn)生成式人工智能技術(shù)向善賦能教育發(fā)展。

三是重設(shè)向善教育倫理規(guī)范，助推育人本質(zhì)回歸。生成式人工智能賦能教育全過程，使“人—人”交互轉(zhuǎn)變?yōu)椤叭恕獧C(jī)—人”交互，為了保持教育主體與生成式人工智能的和諧共生關(guān)系，必須重設(shè)向善教育倫理規(guī)范，把握好人機(jī)協(xié)同的倫理尺度，讓教育者和教育對(duì)象之間更加信任、從容接納智能技術(shù)，進(jìn)而實(shí)現(xiàn)人智協(xié)同與共生。在這種良性發(fā)展軌道中，生成式人工智能將教師從重復(fù)性任務(wù)中解放出來，不斷凸顯教師的育人功能。而教師，也要不斷發(fā)揮生成式人工智能所不能替代的德育引導(dǎo)作用和價(jià)值，詮釋言傳身教、保持師道尊嚴(yán)，回歸育人本質(zhì)。

技術(shù)發(fā)展永遠(yuǎn)在路上。從人類發(fā)展的歷史長(zhǎng)河來看，技術(shù)對(duì)人類的革命性影響一直都在。面對(duì)智能技術(shù)的變遷和影響，我們要認(rèn)識(shí)到倫理道德對(duì)技術(shù)發(fā)展的規(guī)約、引領(lǐng)和價(jià)值塑造的能動(dòng)作用，在教育實(shí)踐中以“智能向善”為導(dǎo)向目標(biāo)，積極識(shí)變、主動(dòng)應(yīng)變、科學(xué)求變，進(jìn)一步規(guī)范技術(shù)應(yīng)用過程，變革教育教學(xué)方式，完善人才培養(yǎng)體系，以期培養(yǎng)符合社會(huì)需求的時(shí)代新人。

（作者王國鵬系數(shù)字化學(xué)習(xí)技術(shù)集成與應(yīng)用教育部工程研究中心專職研究員、浙江師范大學(xué)教育學(xué)院特聘教授，余菲系浙江師范大學(xué)馬克思主義學(xué)院碩士研究生；本文系國家開放大學(xué)資助項(xiàng)目[課題號(hào)：Q23C0023-20220101]階段研究成果）

《中國教育報(bào)》2024年06月15日第4版