AI會取代人類嗎?
一些科學界人士擔心AI是個“潘多拉盒子”，會導致危險的后果。早在1993年，計算機科學家Vernon Vinge推廣了技術新概念:AI驅動的計算機或機器人能重新設計并改進自身，或者能設計比自身更先進的AI。
自然有人認為，這將導致AI超出人類智慧、理解和控制，從而導致人類時代的終結。近來，史蒂芬·霍金和其他權威科學家，包括Stuart Russell,Max Tegmark,和Frank Wilczek同樣警告過，AI太過“聰明”的潛在后果。
這個令人憂慮的想法給好萊塢電影提供了素材，從60年代的《2001太空漫游》，到80年代的《終結者》系列及近期的《超驗駭客》，所有電影都選擇描述各種失去控制的AI主導的反烏托邦世界。
但在我們太過擔憂之前，需要說明一下人工智能當前的水平。如果實現，首先“全能AI”必須實現重大進展，即可以AI機器人可以成功勝任所有人類勝任的智能任務。而現在，該AI技術根本還未實現。通用AI不同于我們大多數人熟悉的“領域特定AI”。
這些領域特定AI專注于一件事情——例如，掌握國際象棋（Deep Blue或Giraffe），或者Go（谷歌的Deep Mind）、駕駛汽車（谷歌的自動駕駛）、或護照照片人臉識別。即使是知名的AI倡導者也認為，Vernon Vinge提出的新觀點在未來某天終會到來，通常在他們寫出程序后的三十年左右。
然而，AI越來越發達，它已經對我們的經濟產生了深遠影響。在2013年的一項研究中，經濟學家Frey和Osborne使用AI技術探索自動化對職業影響的研究。基于他們的預測，美國職場上約47%的職位面臨極大的風險，可能在接下來的十年或二十年將會被機器取代。迄今為止，中等收入職位受到的影響最大，也體現了當下最易受自動化影響的工作內容。
對于過去經濟發展過程中出現的重大變革（例如，從農業為主的經濟轉變成工業經濟），人們通過改變教育和學習的范圍和內容逐漸適應。這種觀點是，如果“工人有靈活的技能，如果教育基礎設施得到充分發展，那么...技術和教育之間的競爭沒有勝利者，成果將會被更多人共享”。
在快速發展的AI面前，這種方法是否適用值得商榷。歷史證明，技術的改變通常會帶來很多無法預料的新角色。而其他人，如Martin Ford認為隨著自動化承接越來越復雜的任務，工作機會會減少，無法保持當前的就業率。
人工智能（AI）的發展正在加速，滲透到我們生活的每一方面。問題在于，我們是否已準備好可控制的情況下讓此發生?正如牛津大學的哲學家Nick Bostrum所論述的，需特別謹慎地關注AI的倫理問題:“責任、透明性、可審計性、防破壞性、可預測性（...）；必須在旨在取代人類社會功能判斷的算法中考慮這些標準”。
例如，如果AI“出錯”（比如，可參見2010年金融界“閃電崩盤”事件中算法起到的作用）由誰來承擔責任，是最終用戶還是程序員?如果交通事故涉及自動駕駛車輛，該怎么處理?能否知曉它是如何做出決定并對其進行修正來防止問題的?如果AI使用的是神經網絡，這已變得非常困難。而且，AI是否開放操控？我們都非常清楚電腦黑客行為的后果。如果出于犯罪目的開發或修改AI，會發生什么?
對于AIEd，同樣存在這些倫理問題。例如，我們知道共享數據對AIEd系統的集成至關重要，而且，匿名化數據的共享，通過削減浪費、重復性工作，香港站群服務器 美國服務器，可促成該領域的飛躍式進步。但這種共享帶來了從個人隱私到專有知識產權的大量問題。
的確，AIEd系統所生成的數據越來越多，同時更加多樣化，這讓現有的教育數據倫理問題風險加倍。AIEd系統數據生成、分析、解釋和使用有什么影響意義？誰持有數據、誰可使用數據，出于何種目的使用數據、誰負最終責任?
另一個需考慮的問題是，AIEd旨在影響用戶的長期行為并對其進行改變。例如，系統可作出建議、進行勸說或提供反饋，使人機之間建立關系。行為改變毫無疑問是一種可能，但這仍沒有經過嚴肅的倫理考慮。
其他擔憂則與學習伙伴相關，雖然它們被設計出來的原意是支持學習者學習，但恐怕“跟隨”您的伙伴反而會永久性地記錄下學習失敗經歷，不利于未來的發展。
同樣地，國外域名 免費域名，AIEd教學輔助工具的概念也引發了擔憂：該技術是否會被教師用作課堂“間諜”來記錄和報告學生的不良表現?
因此，我們有責任確保社會能對AIEd有充足的認識，使我們以恰當、有效和符合倫理的方式使用這些新技術。
AIEd與真實世界
