美国加州柏克莱智库“模型评估与威胁研究”（METR）近期发布报告指出，大语言模型（LLM）正以惊人的速度成长，平均每7个月能力就翻倍，远远超过摩尔定律预测的科技发展速度。团队评估，预计到2030年，模型花数小时即能完成人类1个月工作，若发展失控，恐致科技独裁、政变、瓦解民主制度。
中央社报导，METR指出，大语言模型能力呈现指数型成长，每7个月翻倍，远超过摩尔定律（指芯片上可容纳的晶体管密度，约每18至24个月便会增加1倍），倘若这样的趋势持续下去，到了2030年初，AI几小时便能胜任人类花1个月才能完成的任务。
METR研究人员奇尼蒙（Megan Kinniment）进一步阐述，“1个月”是指167小时，也就是人类每个月投入的工作时数，目前模型成功完成任务的可靠性几率约50%。
奇尼蒙分析，就这样的结果来看，AI对经济层面上的冲击或许没有预想中来得剧烈，但足以加速AI自身研发，形成AI打造AI，导致AI能力极为快速发展。如此一来，人类的控制将变得更加困难，全世界都将面临巨大的适应压力。
奇尼蒙指出，最先进AI可能带来的风险，不仅是单纯的失业潮问题，还有更深层的社会和政治结构瓦解风险；倘若几乎所有人类都失业，或者所有工作都不再需要人类来执行，“你可能也不需要人类来维持军队运作，或者只需要极少数人运作”。
奇尼蒙表示：“这样的情况会让某个人或某个组织更容易发动政变或夺权。”
另外一个风险是，如果有一大批类似天才的AI被集中在某个资料中心，这会让拥有它的人变得极其强大。一旦这样的智慧被用来生产军事装备，那么权力很可能会被高度集中，“甚至导致民主制度瓦解”。
责任编辑:admin
