清华大学研发类脑计算机(2)
2023-03-16 来源:你乐谷
放松了对系统计算过程和精度的约束
相对于通用计算机,这一定义放松了对系统计算过程和精度的约束。团队进一步提出相应的类脑计算机层次结构和确保类脑计算完备性的硬件原语 相当于通用处理器的机器指令来充分利用这一新完备性带来的优势。该结构具有三个层次:图灵完备的软件模型;类脑计算完备的硬件体系结构;位于两者之间的编译层;并设计构造性转化算法将任意图灵可计算函数转换为类脑计算完备硬件上的模型。
近年来,清华类脑计算研究中心提出了符合脑科学基本规律的新型类脑计算架构——异构融合的天机类脑计算芯片架构,可同时支持计算机科学和神经科学的神经网络模型,发挥它们各自的优势。目前“天机芯”已发展到第三代,为学界提供了一个发展人工通用智能的平台和思路,将促进人工通用智能研究、赋能各行各业。
其中,第一代“天机芯”于2015年6月成功流片,该芯片首次将人工神经网络和脉冲神经网络进行异构融合,同时兼顾技术成熟并被广泛应用的深度学习模型与未来具有巨大前景的计算神经科学模型。
第二代“天机芯”即为发表于去年8月1日《自然》封面文章上的成果,具有高速度、高性能、低功耗的特点。
目前,中心正在开发第三代“天机芯”以及新型类脑计算机。而基于现有“天机芯”的天机类脑计算机是一款能够满足类脑智能应用需求的普适类脑计算系统,主要包括系统架构、类脑处理器单元、软件工具链、输入输出子系统、类脑计算机加载测试环境等,一代样机可以对36路异步视频输入进行1000 帧/秒的实时数据处理。
神经形态完备的三层结构
这项研究中提出了神经形态完备性的概念。这是一种类脑计算完备性的定义,与通用的图灵完备性类似,定义通用机器和语言的要求。定义提出,如果一个类脑系统能够以规定的准确度执行一组给定的基本操作,那么它就是神经形态完备的。这与图灵完备性有所不同。
在图灵完备性中,只有当一个系统为一组给定的基本运算提供了一个精确且等价的结果时,才可以将其定义为完备。而在所提出的神经形态完备框架中的基本运算,包括两个已知的加权和运算,以及元素-整流线性运算,这使得硬件系统能够同时支持脉冲和非脉冲人工神经网络。
新定义降低了系统对神经形态硬件的完备性要求,使得不同硬件和软件设计之间的兼容性更易实现。新的层次结构的一个重要特点是,提出了完整的连续性,根据类脑系统能够执行基本操作的精度,接受不同级别的算法性能。
完整的连续性还允许算法的不同实现路径在同一硬件上运行。例如,探索如何权衡算法精度与芯片尺寸,以降低功耗。
提出“类脑计算完备性”概念为何重要?
类脑计算,是借鉴生物神经系统信息处理模式和结构的计算理论、体系结构、芯片设计以及应用模型与算法的总称。
关于其重要性,欧盟人脑旗舰研究计划项目所指出:“在未来10到20年内,谁要引领世界经济,谁就必须在这个领域领先。”
但近年来类脑计算领域在飞速发展的同时,却缺乏对此类基础问题的研究。为此,清华研究团队提出了“类脑计算完备性” 也称为神经形态完备性概念,并且设计了相应的类脑计算机层次结构,进行了理论验证。
“通俗来讲,‘完备性’可以回答系统能够完成什么、功能边界在哪里等问题。研究完备性,可以为软硬件系统的解耦合、划分不同研究领域间的任务分工与接口提供理论基础,我们的研究聚焦完备性理论研究,先回答基本的问题。”清华计算机系研究员张悠慧说。
相对于通用计算机,这一定义放松了对系统计算过程和精度的约束。团队进一步提出相应的类脑计算机层次结构和确保类脑计算完备性的硬件原语 相当于通用处理器的机器指令来充分利用这一新完备性带来的优势。该结构具有三个层次:图灵完备的软件模型;类脑计算完备的硬件体系结构;位于两者之间的编译层;并设计构造性转化算法将任意图灵可计算函数转换为类脑计算完备硬件上的模型。
近年来,清华类脑计算研究中心提出了符合脑科学基本规律的新型类脑计算架构——异构融合的天机类脑计算芯片架构,可同时支持计算机科学和神经科学的神经网络模型,发挥它们各自的优势。目前“天机芯”已发展到第三代,为学界提供了一个发展人工通用智能的平台和思路,将促进人工通用智能研究、赋能各行各业。
其中,第一代“天机芯”于2015年6月成功流片,该芯片首次将人工神经网络和脉冲神经网络进行异构融合,同时兼顾技术成熟并被广泛应用的深度学习模型与未来具有巨大前景的计算神经科学模型。
第二代“天机芯”即为发表于去年8月1日《自然》封面文章上的成果,具有高速度、高性能、低功耗的特点。
目前,中心正在开发第三代“天机芯”以及新型类脑计算机。而基于现有“天机芯”的天机类脑计算机是一款能够满足类脑智能应用需求的普适类脑计算系统,主要包括系统架构、类脑处理器单元、软件工具链、输入输出子系统、类脑计算机加载测试环境等,一代样机可以对36路异步视频输入进行1000 帧/秒的实时数据处理。
神经形态完备的三层结构
这项研究中提出了神经形态完备性的概念。这是一种类脑计算完备性的定义,与通用的图灵完备性类似,定义通用机器和语言的要求。定义提出,如果一个类脑系统能够以规定的准确度执行一组给定的基本操作,那么它就是神经形态完备的。这与图灵完备性有所不同。
在图灵完备性中,只有当一个系统为一组给定的基本运算提供了一个精确且等价的结果时,才可以将其定义为完备。而在所提出的神经形态完备框架中的基本运算,包括两个已知的加权和运算,以及元素-整流线性运算,这使得硬件系统能够同时支持脉冲和非脉冲人工神经网络。
新定义降低了系统对神经形态硬件的完备性要求,使得不同硬件和软件设计之间的兼容性更易实现。新的层次结构的一个重要特点是,提出了完整的连续性,根据类脑系统能够执行基本操作的精度,接受不同级别的算法性能。
完整的连续性还允许算法的不同实现路径在同一硬件上运行。例如,探索如何权衡算法精度与芯片尺寸,以降低功耗。
提出“类脑计算完备性”概念为何重要?
类脑计算,是借鉴生物神经系统信息处理模式和结构的计算理论、体系结构、芯片设计以及应用模型与算法的总称。
关于其重要性,欧盟人脑旗舰研究计划项目所指出:“在未来10到20年内,谁要引领世界经济,谁就必须在这个领域领先。”
但近年来类脑计算领域在飞速发展的同时,却缺乏对此类基础问题的研究。为此,清华研究团队提出了“类脑计算完备性” 也称为神经形态完备性概念,并且设计了相应的类脑计算机层次结构,进行了理论验证。
“通俗来讲,‘完备性’可以回答系统能够完成什么、功能边界在哪里等问题。研究完备性,可以为软硬件系统的解耦合、划分不同研究领域间的任务分工与接口提供理论基础,我们的研究聚焦完备性理论研究,先回答基本的问题。”清华计算机系研究员张悠慧说。