丁一凡：我不想補(bǔ)充一下，其實(shí)你問的這個(gè)問題，跟道德倫理之間相關(guān)，其實(shí)我們社會(huì)的規(guī)范是要懲罰這些道德倫理的壞事。我記得好像是微軟在美國(guó)的這個(gè)事，這個(gè)上線以后，有很多人教他罵人、納粹主義等等，教他特別壞，如果深度學(xué)習(xí)的時(shí)候，控制不住教他人的時(shí)候怎么辦？我們?nèi)绻プ∫粋€(gè)罪犯，由誰教唆你了，教唆犯，法律里有責(zé)任的，你可以抓他，判他的。如果在機(jī)器人過程中，如果都是逆名的，你抓不住，有人故意教他壞的時(shí)候，這個(gè)怎么規(guī)范這樣的道德倫理，這是一個(gè)挺大的事情，因?yàn)槭菦]有辦法控制的。有人會(huì)專門做這種壞事，這時(shí)候法律如果沒有規(guī)矩，就使得你造出一個(gè)非常聰明的人工智能，是一個(gè)超級(jí)惡魔，這時(shí)候怎么辦？