一种AI加速装置及服务器的制作方法

一种ai加速装置及服务器
技术领域
1.本发明涉及算力扩展技术领域，特别是涉及一种ai加速装置及服务器。


背景技术：

2.服务器对数据的处理能力有限，即算力有限。现有技术中，可以通过两种形态的ai(artificial intelligence，人工智能)加速卡来增加服务器对数据的处理能力，即pcie(peripheral component interconnect express，高速串行计算机扩展总线标准)形态ai加速卡和m.2形态ai加速卡。但是服务器上一般预留较少的m.2接口来连接ai加速卡，当服务器对数据的处理能力不足以满足需求时，无法同时连接多个ai加速卡来增大对数据的处理能力，即可扩展性能差，因而急需提供一种ai加速装置来扩展服务器对数据的处理能力。


技术实现要素：

3.本技术的目的是提供一种ai加速装置及服务器，该方案应用于算力扩展技术领域。通过硬盘连接器将nx模组连接于服务器上，增加服务器对数据的处理能力，由于服务器上存在多个硬盘连接器，可以同时连接多个第一接口，进而同时连接多个nx模组，扩展服务器对数据的处理能力。
4.为解决上述技术问题，本技术提供了一种ai加速装置，包括第一接口、电压转换模块和nx模组，所述第一接口分别与所述电压转换模块和所述nx模组连接，所述电压转换模块与所述nx模组连接；
5.所述第一接口用于在连接服务器上的硬盘连接器时，通过所述硬盘连接器连接所述服务器上的处理器；
6.所述电压转换模块用于在所述第一接口连接所述服务器上的硬盘连接器时，将所述第一接口处的电压进行转换后为所述nx模组供电；
7.所述nx模组用于在所述第一接口连接所述服务器上的硬盘连接器时，接收所述处理器发送的数据进行处理，并将处理结果返回所述处理器。
8.优选的，所述硬盘连接器为u.2连接器，所述第一接口为u.2接口。
9.优选的，所述服务器为包含所述u.2连接器的边缘微服务器或非边缘微服务器。
10.优选的，还包括适配于所述硬盘连接器的硬盘盒，所述ai加速装置设置于所述硬盘盒内。
11.优选的，还包括切换模块、第二接口、第三接口和电源模块，所述切换模块分别与所述第一接口、所述第二接口和所述nx模组连接，所述电源模块与所述电压转换模块连接，所述第三接口与所述nx模组连接；
12.所述切换模块用于在检测到所述第一接口与所述硬盘连接器连接时使所述第一接口与所述nx模组连接，或者在检测到所述第二接口与存储模块连接时使所述第二接口与所述nx模组连接；
13.所述电源模块用于在所述切换模块使所述第二接口与所述nx模组连接时，为所述
电压转换模块提供电压；
14.相应的，所述电压转换模块还用于在所述第二接口与存储模块连接时，将所述电源模块提供的电压进行转换后为所述nx模组供电；
15.所述nx模组还用于在所述第二接口与所述存储模块连接且所述第三接口与外接模块连接时，向所述外接模块发送控制指令且向所述存储模块发送存储信息。
16.优选的，所述切换模块为pcie switch芯片，所述nx模组具体用于在所述第一接口连接所述服务器上的硬盘连接器时，通过pcie链路接收所述处理器发送的数据进行处理，并将处理结果返回所述处理器，在所述第二接口与所述存储模块连接且所述第三接口与所述外接模块连接时，向所述外接模块发送控制指令且通过所述pcie链路向所述存储模块发送所述存储信息。
17.优选的，所述第二接口为m.2ssd插槽，所述存储模块为m.2ssd。
18.优选的，所述第三接口包括wifi模块接口和/或sd卡卡槽，所述外接模块包括wifi模块和/或sd卡。
19.优选的，所述第三接口还包括rj45接口和/或显示接口。
20.为解决上述技术问题，本技术还提供了一种服务器，包括服务器本体，还包括预设数量的ai加速装置，所述预设数量的ai加速装置通过所述服务器上的所述预设数量的硬盘连接器与所述服务器连接。
21.本技术提供了一种ai加速装置及服务器，该方案应用于算力扩展技术领域。第一接口在连接服务器上的硬盘连接器时，通过硬盘连接器连接服务器上的处理器；电压转换模块在第一接口连接服务器上的硬盘连接器时，将第一接口处的电压进行转换后为nx模组供电；nx模组在第一接口连接服务器上的硬盘连接器时，接收处理器发送的数据进行处理，并将处理结果返回处理器。通过硬盘连接器将nx模组连接于服务器上，增加服务器对数据的处理能力，由于服务器上存在多个硬盘连接器，可以同时连接多个第一接口，进而同时连接多个nx模组，扩展服务器对数据的处理能力。
附图说明
22.为了更清楚地说明本技术实施例中的技术方案，下面将对现有技术和实施例中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本技术的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
23.图1为本技术提供的一种ai加速装置的结构示意图；
24.图2为本技术提供的一种pcie形态ai加速卡的示意图；
25.图3为本技术提供的一种m.2形态ai加速卡的示意图；
26.图4为本技术提供的一种ai加速装置作为ai加速卡的示意图；
27.图5为本技术提供的另一种ai加速装置的结构示意图；
28.图6为本技术提供的一种ai加速装置作为处理器的示意图；
29.图7为本技术提供的一种集成芯片的正面结构示意图；
30.图8为本技术提供的一种集成芯片的背面结构示意图。
具体实施方式
31.本技术的核心是提供一种ai加速装置及服务器，该方案应用于算力扩展技术领域。通过硬盘连接器将nx模组连接于服务器上，增加服务器对数据的处理能力，由于服务器上存在多个硬盘连接器，可以同时连接多个第一接口，进而同时连接多个nx模组，扩展服务器对数据的处理能力。
32.为使本技术实施例的目的、技术方案和优点更加清楚，下面将结合本技术实施例中的附图，对本技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本技术一部分实施例，而不是全部的实施例。基于本技术中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本技术保护的范围。
33.图1为本技术提供的一种ai加速装置的结构示意图，包括第一接口1、电压转换模块2和nx模组3，第一接口1分别与电压转换模块2和nx模组3连接，电压转换模块2与nx模组3连接；
34.第一接口1用于在连接服务器上的硬盘连接器时，通过硬盘连接器连接服务器上的处理器；
35.电压转换模块2用于在第一接口1连接服务器上的硬盘连接器时，将第一接口1处的电压进行转换后为nx模组3供电；
36.nx模组3用于在第一接口1连接服务器上的硬盘连接器时，接收处理器发送的数据进行处理，并将处理结果返回处理器。
37.服务器对数据的处理能力有限，即算力有限。现有技术中，可以通过两种形态的ai加速卡来增加服务器对数据的处理能力，即pcie形态ai加速卡和m.2形态ai加速卡，可以参照图2和图3，图2为pcie形态ai加速卡，图3为m.2形态ai加速卡。但是服务器上一般预留较少的m.2接口来连接ai加速卡，当服务器对数据的处理能力不足以满足需求时，无法同时连接多个ai加速卡来增大对数据的处理能力，即可扩展性能差。
38.为解决上述技术问题，本技术在ai加速装置中设置第一接口1，其与服务器上的硬盘连接器进行连接，由于服务器上空余的硬盘连接器较多，可以实现同时连接多个ai加速装置，进而实现服务器对数据的处理能力的扩展，即算力的扩展。
39.具体的，以nx模组3为计算核心单元，搭配第一接口1和电压转换模块2构成ai加速装置，该ai加速装置集成与单板上，可提供21tops算力，能够有效的提高ai算力，且功耗小于30w。而电压转换模块2对电压进行转换保证了为nx模组3供电的电压的大小，防止电压过大造成损坏。同时nx模组3的体积较小，因而可以包装成硬盘的大小通过第一接口1与服务器的硬盘扩展槽位中的硬盘连接器连接，根据服务器的机型不同，可以增加4-12个ai加速装置，解决服务器的算力扩展问题。此外，由于nx模组3的功耗较低，连接的ai加速装置的数量可以扩展至服务器的存储扩展槽位的最大配置。
40.而小体积的nx模组3，区别于现有的主流尺寸为全高全长或半高全长的pcie形态ai加速卡(其中，半长halflength不超过167.65mm，全长fulllength不超过312.00mm，半高halfheight不超过68.9mm，全高fullheight不超过111.15mm)和主流尺寸为2280或22110的m.2形式的ai加速卡(其中，m.2形式为接口为m.2，2280为22*80mm，22110和22*110mm)，能够使本技术的ai加速装置在高密度集成设计下，将nx模组3及相关器件和电路集成在尺寸为96.8*66.6mm的单板上。
41.其中，nx模组3的英文全称为nvdia jeston nx加速卡模组，中文全称为英伟达nx加速卡模组，其型号包含：xavier、tx2、nano三组，分别为高，中，低三种不同性能模组，可以根据需求进行选取；nx模组3上还可以通过usb2.0/3.0进行调试和测试。
42.综上，本技术提供了一种ai加速装置，该方案应用于算力扩展技术领域。第一接口1在连接服务器上的硬盘连接器时，通过硬盘连接器连接服务器上的处理器；电压转换模块2在第一接口1连接服务器上的硬盘连接器时，将第一接口1处的电压进行转换后为nx模组3供电；nx模组3在第一接口1连接服务器上的硬盘连接器时，接收处理器发送的数据进行处理，并将处理结果返回处理器。通过硬盘连接器将nx模组3连接于服务器上，增加服务器对数据的处理能力，由于服务器上存在多个硬盘连接器，可以同时连接多个第一接口1，进而同时连接多个nx模组3，扩展服务器对数据的处理能力。
43.在上述实施例的基础上：
44.作为一种优选的实施例，硬盘连接器为u.2连接器，第一接口1为u.2接口。
45.考虑到服务器的硬盘连接器通常采用u.2连接器，对应连接于该u.2连接器的接口，也就是第一接口1，为u.2接口。
46.作为一种优选的实施例，服务器为包含u.2连接器的边缘微服务器或非边缘微服务器。
47.本实施例中，ai加速装置可以应用于边缘微服务器，也可以应用于非边缘微服务器，即常规的服务器(常见体积)，只要其包含用于连接ai加速装置的u.2连接器。
48.由于伴随边缘计算、物联网应用的飞速发展，各种边缘微服务器应用于云-端，边缘微服务器同样会出现算力不足的情况，尤其是在对算力要求较高的识别或户外应用场景中。对于现有技术中两种形态的ai加速卡，pcie形态ai加速卡为pcie卡结构，主要应用于大型服务器ai算法加速场景，算力高、功耗大、体积大，仅适用于通用服务器，在边缘微服务器领域应用困难；m.2形态ai加速卡为m.2卡结构，主要应用于微型服务器板载ai算法加速场景，算力低、功耗低、体积小，但由于边缘微服务器的主板一般也预留较少的m.2接口，且常作为启动盘使用，算力的可扩展性能差。也就是边缘微服务器面临m.2接口少和自身体积有限两个问题。
49.对于自身体积有限的问题，提升算力的nx模组3本身具有比现有技术中两种形态的ai加速卡更小的体积，因而可以应用于边缘微服务器；对于m.2接口少的问题，边缘微服务器主板仅有两个m.2接口，其中一个还需要作为启动/存储盘，扩展模式下最大支持1个ai加速卡，但是可支持本技术中通过u.2连接器进行连接的ai加速装置可以达到4个，增大算力。
50.此外，ai加速装置还可以应用于包含u.2连接器的工业设备，进行ai算力扩展。
51.作为一种优选的实施例，还包括适配于硬盘连接器的硬盘盒，ai加速装置设置于硬盘盒内。
52.由于本技术中，通过服务器上连接硬盘的硬盘连接器来实现ai加速装置的连接，并且由于nx模组3的小体积，就可以直接将ai加速装置设置于硬盘盒内，以硬盘盒的外观进行使用，也便于与硬盘连接器的连接。
53.具体的，当本技术的ai加速装置制作成尺寸为96.8*66.6mm可插拔式装置时，就可恰好放置于用于连接2.5’硬盘(其标准为100*70mm)的硬盘连接器所部署于的服务器的硬
盘扩展槽位中，参照图4。其中，可以通过固定孔兼容2.5’硬盘盒的固定方式，固定到2.5’硬盘盒内，便于在各种io/存储扩展箱内应用，扩展ai运算能力。
54.请参照图5，图5为本技术提供的另一种ai加速装置的结构示意图。
55.作为一种优选的实施例，还包括切换模块4、第二接口5、第三接口6和电源模块7，切换模块4分别与第一接口1、第二接口5和nx模组3连接，电源模块7与电压转换模块2连接，第三接口6与nx模组3连接；
56.切换模块4用于在检测到第一接口1与硬盘连接器连接时使第一接口1与nx模组3连接，或者在检测到第二接口5与存储模块连接时使第二接口5与nx模组3连接；
57.电源模块7用于在切换模块4使第二接口5与nx模组3连接时，为电压转换模块2提供电压；
58.相应的，电压转换模块2还用于在第二接口5与存储模块连接时，将电源模块7提供的电压进行转换后为nx模组3供电；
59.nx模组3还用于在第二接口5与存储模块连接且第三接口6与外接模块连接时，向外接模块发送控制指令且向存储模块发送存储信息。
60.本实施例中，考虑到nx模组3本身可以作为处理器，此时nx模组3具有ai加速卡和处理器的双重功能，因而增加了切换模块4来进行双重功能的切换。
61.具体的，在nx模组3作为ai加速卡时，即第一接口1连接服务器的硬盘连接器、第二接口5空闲时，切换模块4使第一接口1和nx模组3连接，nx模组3增加服务器的处理器的算力，参照图4；在nx模组3作为处理器时，即第一接口1空闲，第二接口5连接存储模块时，切换模块4使第二接口5和nx模组3连接，此时nx模组3可以通过第三接口6与外接模块连接，控制外接模块，作为独立处理单元使用，同时通过存储模块进行相应数据的存储，参照图6，也就是实现了单体微型计算能力及存储功能。
62.同时，在nx模组3作为ai加速卡时，电压转换模块2通过第一接口1获取电压，例如12v/5v；在nx模组3作为处理器时，则增加了电源模块7来为电压转换模块2提供例如12v的电压，而电源模块7可以为独立电源，也可以为通过usb type-c接口进行充电的电源。
63.综上，本实施例中ai加速装置不但能够增加服务器的算力，还能够作为独立处理单元，扩展了ai加速装置的功能，提高了实用性和使用率。同时ai加速装置集成于的单板，芯片密度大，功能集成度高。
64.作为一种优选的实施例，切换模块4为pcie switch芯片，nx模组3具体用于在第一接口1连接服务器上的硬盘连接器时，通过pcie链路接收处理器发送的数据进行处理，并将处理结果返回处理器，在第二接口5与存储模块连接且第三接口6与外接模块连接时，向外接模块发送控制指令且通过pcie链路向存储模块发送存储信息。
65.本实施例中，切换模块4限定为pcie switch芯片，即pcie选择器，实现对链路的灵活切换。此时，与切换模块4连接的链路均为pcie链路。
66.作为一种优选的实施例，第二接口5为m.2ssd插槽，存储模块为m.2ssd。
67.本实施例中，存储模块可以为m.2ssd，即m.2接口的固态存储盘，此时连接该存储模块的接口就相应为m.2ssd插槽。
68.作为一种优选的实施例，第三接口6包括wifi模块接口和/或sd卡卡槽，外接模块包括wifi模块和/或sd卡。
69.由nx模组3作为独立处理单元控制的外接模块可以为wifi模块，即wifi无线传输模块，与天线连接，其可以包含蓝牙功能；也可以为sd卡；第三接口6与外接模块相对应。当然可以是其他外接模块，这些外接模块可以通过多个第三接口6与nx模组3连接，nx模组3可以进行同时控制。
70.作为一种优选的实施例，第三接口6还包括rj45接口和/或显示接口。
71.用于连接外接模块的第三接口6还可以为rj45接口和/或显示接口，并根据实际情况连接所需的外接模块。其中rj45接口即为网络接口底座，显示接口可以为minihdmi显示接口。
72.同时，基于上述所有限定，就可以得到一个具体的ai加速装置，其集成于的芯片可以参照7和图8。
73.本技术提供的一种服务器，包括服务器本体，还包括预设数量的ai加速装置，预设数量的ai加速装置通过服务器上的预设数量的硬盘连接器与服务器连接。
74.对于本技术提供的一种服务器中的ai加速装置的介绍，请参照上述实施例，本技术此处不再赘述。
75.需要说明的是，在本说明书中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个
……”
限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
76.对所公开的实施例的上述说明，使本领域专业技术人员能够实现或使用本技术。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的，本文中所定义的一般原理可以在不脱离本技术的精神或范围的情况下，在其他实施例中实现。因此，本技术将不会被限制于本文所示的这些实施例，而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。