深度神經(jīng)網(wǎng)絡(luò)已經(jīng)徹底改變了幾個(gè)領(lǐng)域,包括自動(dòng)駕駛、癌癥檢測(cè)和藥物設(shè)計(jì),是大規(guī)模人工智能模型的基礎(chǔ)。然而,硬件神經(jīng)網(wǎng)絡(luò)的報(bào)道仍然主要集中在淺層網(wǎng)絡(luò)(2到5層)。由于逐層結(jié)構(gòu),在硬件中實(shí)現(xiàn)深度神經(jīng)網(wǎng)絡(luò)具有挑戰(zhàn)性,且梯度爆炸或消失,導(dǎo)致訓(xùn)練時(shí)間長(zhǎng)、信號(hào)干擾和精度低。鑒于此,來(lái)自福州大學(xué)的Huipeng Chen研究出通過(guò)具有內(nèi)在并行性的負(fù)紫外光電導(dǎo)發(fā)光憶阻器和軟硬件協(xié)同設(shè)計(jì)來(lái)實(shí)現(xiàn)電信息的光跨層傳輸。
文章要點(diǎn):
1) 該研究通過(guò)發(fā)光憶阻器和跨層塊發(fā)現(xiàn)一種混合超深光電神經(jīng)網(wǎng)絡(luò)和超深超分辨率重建神經(jīng)網(wǎng)絡(luò),分別將網(wǎng)絡(luò)分別擴(kuò)展到54層和135層;
2) 此外,研究還實(shí)現(xiàn)了兩個(gè)網(wǎng)絡(luò)遷移學(xué)習(xí),在多數(shù)據(jù)集識(shí)別和高分辨率恢復(fù)任務(wù)中接近或超過(guò)了軟件設(shè)計(jì)的網(wǎng)絡(luò),這些研究成果在高精度多功能硬件神經(jīng)網(wǎng)絡(luò)和邊緣人工智能方面具備巨大的潛力。
參考資料:
Chen, Z., Lin, Z., Yang, J. et al. Cross-layer transmission realized by light-emitting memristor for constructing ultra-deep neural network with transfer learning ability. Nat. Commun. (2024).
10.1038/s41467-024-46246-3
https://doi.org/10.1038/s41467-024-46246-3