近日來，DeepSeek的出現引發了人們使用AI的熱潮，和當初ChatGPT剛剛發布時一樣熱鬧，但喧囂過后，人們要面對不僅是AI帶來的效率提升和一系列便利，還包括AI帶來的風險和傷害。

去年年底，中國教育部辦公廳印發通知，部署加強中小學人工智能教育，通知要求“小學低年級段側重感知和體驗人工智能技術，小學高年級段和初中階段側重理解和應用人工智能技術，高中階段側重項目創作和前沿應用。”但對于AI使用涉及的倫理道德問題、違法犯罪問題等重視不足。其實，當我們將AI課程引進學校的時候，最應被優先考慮的問題是如何教會孩子們合理合法地使用AI。

AI帶給人類社會的危險和傷害絕對不是危言聳聽。2023年馬來西亞六州選舉中的一位候選人馬國民主聯合陣（MUDA）黨員林慧嫻，就成為AI深度偽造詐騙的受害者。林慧嫻，不僅是政治名人，而且形容姣美，在社交媒體上也相當活躍，在Instagram上有超過10萬的追隨者。她因為頻繁接到人身威脅和來自境外的追索錢財的信息，深受困擾，懷疑自己的身份被盜用，于是報警。公眾才得知不法分子如果用AI深度偽造的方式冒用他人身份會帶來什么。其中一位受害者是來自土耳其的29歲男子Yusuf，他在接受有關采訪時說，從2022年12月起，一位自稱“Li Chu Xue”的人與他開始網戀，并游說他進行加密貨幣交易，最終他被騙9萬多美元。他接受調查時仍堅信自己曾經視頻通話4次的“Li Chu Xue”就是林慧嫻本人。他說，視頻通話時，畫面高清、聲音清楚，就算林慧嫻報警也證明不了什么。另外，在土耳其，至少還有27人也聲稱被在網上使用不同姓名的林慧嫻詐騙錢財，并已經在土耳其報警。