8月8日，記者從清華大學(xué)官方微信平臺(tái)獲悉，清華大學(xué)電子工程系方璐教授課題組和自動(dòng)化系戴瓊海院士課題組首創(chuàng)了全前向智能光計(jì)算訓(xùn)練架構(gòu)，研制出“太極-II”光訓(xùn)練芯片。由此，實(shí)現(xiàn)了光計(jì)算系統(tǒng)大規(guī)模神經(jīng)網(wǎng)絡(luò)的高效精準(zhǔn)訓(xùn)練。

　　據(jù)了解，這項(xiàng)研究成果以“光神經(jīng)網(wǎng)絡(luò)全前向訓(xùn)練”為題，已在線發(fā)表在最新一期的《自然》期刊。該成果有望成為訓(xùn)練光學(xué)神經(jīng)網(wǎng)絡(luò)和其他光學(xué)計(jì)算系統(tǒng)時(shí)廣泛采用的工具。

　　當(dāng)前，如何制造出滿足人工智能發(fā)展、兼具大算力和高能效的下一代AI芯片，已成為國(guó)際前沿?zé)狳c(diǎn)。而具有高算力低功耗特性的智能光計(jì)算備受關(guān)注。光計(jì)算天然具有高速和低功耗的特性，利用光的全前向傳播實(shí)現(xiàn)訓(xùn)練能夠極大地提升光網(wǎng)絡(luò)訓(xùn)練的速度與能效。相較于模型推理而言，模型訓(xùn)練更需要大規(guī)模算力。然而，現(xiàn)有的光神經(jīng)網(wǎng)絡(luò)訓(xùn)練嚴(yán)重依賴(lài)GPU進(jìn)行離線建模并且要求物理系統(tǒng)精準(zhǔn)對(duì)齊。正因如此，光學(xué)訓(xùn)練的規(guī)模受到了極大限制，高性能光計(jì)算的優(yōu)勢(shì)也由此受到束縛。

　　記者了解到，今年4月，方璐、戴瓊海課題組宣布研制出全球首款大規(guī)模干涉衍射異構(gòu)集成芯片——太極(Taichi)，首次將光計(jì)算從原理驗(yàn)證推向了大規(guī)模實(shí)驗(yàn)應(yīng)用，以160TOPS/W的系統(tǒng)級(jí)能效為大規(guī)模復(fù)雜任務(wù)的“推理”帶來(lái)了曙光，但未能夠釋放智能光計(jì)算的“訓(xùn)練之能”。而在此次科研成果中，該課題組找到了“光子傳播對(duì)稱(chēng)性”這把鑰匙，將神經(jīng)網(wǎng)絡(luò)訓(xùn)練中的前向與反向傳播都等效為光的前向傳播。由于不需要進(jìn)行反向傳播，太極-II架構(gòu)不再依賴(lài)電計(jì)算進(jìn)行離線的建模與訓(xùn)練，大規(guī)模神經(jīng)網(wǎng)絡(luò)的精準(zhǔn)高效光訓(xùn)練終于得以實(shí)現(xiàn)。

　　據(jù)介紹，經(jīng)過(guò)太極系列在內(nèi)的光計(jì)算領(lǐng)域的不懈努力，智能光計(jì)算平臺(tái)將有望以更低的資源消耗和更小的邊際成本，為人工智能大模型、通用人工智能、復(fù)雜智能系統(tǒng)的高速高能效計(jì)算開(kāi)辟新路徑。

　　作者：楊鵬岳　　來(lái)源：中國(guó)電子報(bào)、電子信息產(chǎn)業(yè)網(wǎng)