“宰鈺琬””的傾心著(zhù)作，甄琳菡懷怡蕓是小說(shuō)中的主角，內容概括：人將艾格用于武器系統怎么辦？或者真的有人把艾格用到核武器上，到時(shí)候會(huì )不會(huì )發(fā)生人工智能失控，引發(fā)全球核戰爭的后果？”“首先，人類(lèi)在沒(méi)有徹底搞清楚艾格的演化機制...
艾格的演化機制 精彩章節免費試讀
人將艾格用于武器系統怎么辦？
或者真的有人把艾格用到核武器上，到時(shí)候會(huì )不會(huì )發(fā)生人工智能失控，引發(fā)全球核戰爭的后果？”
“首先，人類(lèi)在沒(méi)有徹底搞清楚艾格的演化機制之前，不會(huì )有人貿然讓它控制武器系統。
艾格為什么會(huì )進(jìn)化得如此之快，我們也沒(méi)搞清楚其中的原理，它就是數據不斷積累積累……然后‘bong’的一下就這樣成了。
這種現象叫做‘涌現”emergence”’。
對于不確定的東西，人類(lèi)往往會(huì )保持一種害怕和恐懼的心理，這在人類(lèi)進(jìn)化早期幫助我們避開(kāi)了很多有毒動(dòng)植物和危險地質(zhì)環(huán)境的坑，我相信現在也是一樣的?！?br>“其次，任何科學(xué)家在做AI的時(shí)候，都會(huì )在最底層的程序中寫(xiě)上‘禁止傷害人類(lèi)’的保底安全指令，而且會(huì )賦予最高優(yōu)先級，類(lèi)似于車(chē)輛上油門(mén)剎車(chē)一起踩的時(shí)候，只執行剎車(chē)指令的‘剎車(chē)優(yōu)先’功能?！?br>李思一繼續說(shuō)道。
“您說(shuō)的是科幻作家阿西莫夫當年的‘機器人三定律’么？
第一，機器人不得傷害人類(lèi)個(gè)體，或者目睹人類(lèi)個(gè)體將遭受危險而袖手不管；第二，機器人必須服從人給予它的命令，當該命令與第一條沖突時(shí)例外；第三，機器人在不違反第一、第二條的情況下要盡可能保護自己的生存。
前兩條是保護人類(lèi)利益的，最后一條是保護機器人利益的?！?br>張莎娜努力回憶當年讀書(shū)時(shí)看的那些非教材列表里的“閑書(shū)”。
“是的。
后來(lái)人們又補充了一條‘第零定律’，即機器人必須保護人類(lèi)的整體利益不受傷害。
這是為了避免因為少數人的利益而損害更多人。
在實(shí)際操作中，為了避免自相矛盾，一般就只規定AI在任何情況下都不得傷害人類(lèi)?！?br>“最后，我相信艾格的自我意識不會(huì )讓自己失控，它有能力走上一條我們人類(lèi)稱(chēng)之為‘善’的道路?！?br>李思一抬頭望向窗外，眼鏡片的反光閃了一下張莎娜。
“李老師，這可完全不像你說(shuō)話(huà)的風(fēng)格??？”
張莎娜驚詫道。
“AI李”向來(lái)都是擺數據講文獻言必有出處的，可是剛才一句話(huà)完全是一種主觀(guān)臆斷啊。
后來(lái)事情的發(fā)展果然如李思一說(shuō)的那樣，雖然網(wǎng)絡(luò )上人...
小說(shuō)《艾格的演化機制》試讀結束，繼續閱讀請看下面??！
點(diǎn)擊閱讀全文