升阳公司首席科学家警告--超级智能机器最终将导致人类灭绝
(旧金山路透电)硅谷一家著名电脑公司的联合创办人警告,科学进展可能使人类陷入梦魇——超级智能机器最终将导致人类绝灭。
升阳微系统(Sun Microsystems)公司首席科学家比尔·乔伊(Bill Joy)在《联网》(Wired)4月号中呼吁,科技工作者重新考虑力求科技发展革新所带来的道德问题。
他写道:“我们迈入这个新世纪,却丝毫没有策划、控制和刹车。确保控制的最后机会--故障安全的关头--已越来越逼近。”
以他具有超凡成就的身分,撰文疾呼人们重视高科技的威胁。他发出的警言,更令人忐忑不安。
比尔·乔伊是电脑研究的先驱,奠定UNIX操作系统初版的基础,也是Java语言等软件技术的推动者,并担任美国总统未来信息技术委员会的联合主席。
他的三大忧惧的焦点,是自动机器学、基因学,以及纳米技术(nanotechnology)。
*自动机器学:在未来30年内,“思考”电脑的发展,将使电脑比目前的强大100万倍。乔伊预见这将为能够自我复制的智能“机器族”创造条件。
*基因学:操纵生命基本结构的科学突破,虽制造了抗虫农作物,也可能埋下消灭生物的人为新灾难之祸因。
*纳米技术:这种制造大小若原子的技术,将使微细的精灵机器很快面世。
这三方面的发展跟人类早期发明原子弹等危险产品不同的特点,是它们自我复制的能力将能产生连锁反应,像电脑病毒在电脑世界蔓延的方式,将席卷整个物质世界。
乔伊指出:“我们处于终极灾祸濒临爆发边缘的说法,绝非危言耸听。”
(2000年3月16日编译。原文参见http://www.asia1.com.sg/zaobao/gj/gj0093.html)