本公開總體涉及深度學(xué)習(xí)，并且更具體地涉及具有增加的模塊化和減少的占用空間的深度學(xué)習(xí)圖像分析。
背景技術(shù)：
1、可訓(xùn)練深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)以對(duì)醫(yī)學(xué)圖像執(zhí)行推斷任務(wù)。遺憾的是，實(shí)現(xiàn)高性能的深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)往往消耗過量的計(jì)算資源。
2、因此，可解決這些技術(shù)問題中的一個(gè)或多個(gè)技術(shù)問題的系統(tǒng)或技術(shù)可能是期望的。
技術(shù)實(shí)現(xiàn)思路
1、以下呈現(xiàn)了
技術(shù)實(shí)現(xiàn)要素：
以提供對(duì)本發(fā)明的一個(gè)或多個(gè)實(shí)施方案的基本理解。本發(fā)明內(nèi)容不旨在識(shí)別關(guān)鍵或重要元素，也不旨在描繪具體實(shí)施方案的任何范圍或權(quán)利要求書的任何范圍。其唯一目的是以簡化形式呈現(xiàn)概念，作為稍后呈現(xiàn)的更詳細(xì)描述的序言。在本文所述的一個(gè)或多個(gè)實(shí)施方案中，描述了促進(jìn)具有增加的模塊化和減少的占用空間的深度學(xué)習(xí)圖像分析的設(shè)備、系統(tǒng)、計(jì)算機(jī)實(shí)現(xiàn)的方法、裝置或計(jì)算機(jī)程序產(chǎn)品。
2、根據(jù)一個(gè)或多個(gè)實(shí)施方案，提供了一種系統(tǒng)。該系統(tǒng)可包括非暫態(tài)計(jì)算機(jī)可讀存儲(chǔ)器，該非暫態(tài)計(jì)算機(jī)可讀存儲(chǔ)器可存儲(chǔ)計(jì)算機(jī)可執(zhí)行部件。該系統(tǒng)還可包括處理器，該處理器可以可操作地聯(lián)接到非暫態(tài)計(jì)算機(jī)可讀存儲(chǔ)器并且可執(zhí)行存儲(chǔ)在非暫態(tài)計(jì)算機(jī)可讀存儲(chǔ)器中的計(jì)算機(jī)可執(zhí)行部件。在各個(gè)實(shí)施方案中，計(jì)算機(jī)可執(zhí)行部件可包括能夠訪問醫(yī)學(xué)成像數(shù)據(jù)的訪問部件。在各個(gè)方面，計(jì)算機(jī)可執(zhí)行部件還可包括推斷部件，該推斷部件可經(jīng)由深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)的執(zhí)行對(duì)醫(yī)學(xué)成像數(shù)據(jù)執(zhí)行多個(gè)推斷任務(wù)。在各種情況下，該深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)可包括與多個(gè)任務(wù)專用主干網(wǎng)絡(luò)并行的公共主干網(wǎng)絡(luò)。在各種情況下，該多個(gè)任務(wù)專用主干網(wǎng)絡(luò)可分別對(duì)應(yīng)于該多個(gè)推斷任務(wù)。
3、根據(jù)一個(gè)或多個(gè)實(shí)施方案，上述系統(tǒng)可被實(shí)現(xiàn)為計(jì)算機(jī)實(shí)現(xiàn)的方法或計(jì)算機(jī)程序產(chǎn)品。
1.一種系統(tǒng)，所述系統(tǒng)包括：
2.根據(jù)權(quán)利要求1所述的系統(tǒng)，其中所述深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)還包括與所述公共主干網(wǎng)絡(luò)并行并且與所述多個(gè)任務(wù)專用主干網(wǎng)絡(luò)并行的多個(gè)模態(tài)專用主干網(wǎng)絡(luò)，其中所述多個(gè)模態(tài)專用主干網(wǎng)絡(luò)中的相應(yīng)模態(tài)專用主干網(wǎng)絡(luò)對(duì)應(yīng)于所述多個(gè)任務(wù)專用主干網(wǎng)絡(luò)的相應(yīng)子集。
3.根據(jù)權(quán)利要求2所述的系統(tǒng)，其中所述深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)還包括分別與所述多個(gè)任務(wù)專用主干網(wǎng)絡(luò)串聯(lián)的多個(gè)組合層，其中所述公共主干網(wǎng)絡(luò)接收所述醫(yī)學(xué)成像數(shù)據(jù)作為輸入并且產(chǎn)生第一中間輸出，其中所述多個(gè)模態(tài)專用主干網(wǎng)絡(luò)接收所述醫(yī)學(xué)成像數(shù)據(jù)作為輸入并且產(chǎn)生多個(gè)第二中間輸出，其中所述多個(gè)任務(wù)專用主干網(wǎng)絡(luò)接收所述醫(yī)學(xué)成像數(shù)據(jù)作為輸入并且產(chǎn)生多個(gè)第三中間輸出，并且其中所述多個(gè)組合層將所述多個(gè)第三中間輸出中的相應(yīng)第三中間輸出與所述第一中間輸出以及所述多個(gè)第二中間輸出中的相應(yīng)第二中間輸出組合，從而產(chǎn)生多個(gè)組合。
4.根據(jù)權(quán)利要求3所述的系統(tǒng)，其中所述深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)還包括分別與所述多個(gè)組合層串聯(lián)的多個(gè)任務(wù)專用頭部，其中所述多個(gè)任務(wù)專用頭部接收所述多個(gè)組合作為輸入，并且產(chǎn)生分別對(duì)應(yīng)于所述多個(gè)推斷任務(wù)的多個(gè)推斷輸出。
5.根據(jù)權(quán)利要求4所述的系統(tǒng)，其中所述計(jì)算機(jī)可執(zhí)行部件還包括：
6.根據(jù)權(quán)利要求1所述的系統(tǒng)，其中經(jīng)由第一階段和第二階段來訓(xùn)練所述深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)，其中所述第一階段包括基于應(yīng)用于所述多個(gè)任務(wù)專用主干網(wǎng)絡(luò)的正則項(xiàng)來訓(xùn)練所述公共主干網(wǎng)絡(luò)和所述多個(gè)任務(wù)專用主干網(wǎng)絡(luò)，并且其中所述第二階段包括凍結(jié)所述公共主干網(wǎng)絡(luò)并移除所述正則項(xiàng)。
7.根據(jù)權(quán)利要求6所述的系統(tǒng)，其中基于由多個(gè)教師網(wǎng)絡(luò)生成的真實(shí)注釋以監(jiān)督方式訓(xùn)練所述深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)。
8.根據(jù)權(quán)利要求6所述的系統(tǒng)，其中將新的任務(wù)專用主干網(wǎng)絡(luò)添加到所述多個(gè)任務(wù)專用主干網(wǎng)絡(luò)，其中訓(xùn)練所述新的任務(wù)專用主干網(wǎng)絡(luò)，同時(shí)凍結(jié)所述公共主干網(wǎng)絡(luò)以及所述多個(gè)任務(wù)專用主干網(wǎng)絡(luò)的剩余部分。
9.一種計(jì)算機(jī)實(shí)現(xiàn)的方法，所述計(jì)算機(jī)實(shí)現(xiàn)的方法包括：
10.根據(jù)權(quán)利要求9所述的計(jì)算機(jī)實(shí)現(xiàn)的方法，其中所述深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)還包括與所述公共主干網(wǎng)絡(luò)并行并且與所述多個(gè)任務(wù)專用主干網(wǎng)絡(luò)并行的多個(gè)模態(tài)專用主干網(wǎng)絡(luò)，其中所述多個(gè)模態(tài)專用主干網(wǎng)絡(luò)中的相應(yīng)模態(tài)專用主干網(wǎng)絡(luò)對(duì)應(yīng)于所述多個(gè)任務(wù)專用主干網(wǎng)絡(luò)的相應(yīng)子集。
11.根據(jù)權(quán)利要求10所述的計(jì)算機(jī)實(shí)現(xiàn)的方法，其中所述深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)還包括分別與所述多個(gè)任務(wù)專用主干網(wǎng)絡(luò)串聯(lián)的多個(gè)組合層，其中所述公共主干網(wǎng)絡(luò)接收所述醫(yī)學(xué)成像數(shù)據(jù)作為輸入并且產(chǎn)生第一中間輸出，其中所述多個(gè)模態(tài)專用主干網(wǎng)絡(luò)接收所述醫(yī)學(xué)成像數(shù)據(jù)作為輸入并且產(chǎn)生多個(gè)第二中間輸出，其中所述多個(gè)任務(wù)專用主干網(wǎng)絡(luò)接收所述醫(yī)學(xué)成像數(shù)據(jù)作為輸入并且產(chǎn)生多個(gè)第三中間輸出，并且其中所述多個(gè)組合層將所述多個(gè)第三中間輸出中的相應(yīng)第三中間輸出與所述第一中間輸出以及所述多個(gè)第二中間輸出中的相應(yīng)第二中間輸出組合，從而產(chǎn)生多個(gè)組合。
12.根據(jù)權(quán)利要求11所述的計(jì)算機(jī)實(shí)現(xiàn)的方法，其中所述深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)還包括分別與所述多個(gè)組合層串聯(lián)的多個(gè)任務(wù)專用頭部，其中所述多個(gè)任務(wù)專用頭部接收所述多個(gè)組合作為輸入，并且產(chǎn)生分別對(duì)應(yīng)于所述多個(gè)推斷任務(wù)的多個(gè)推斷輸出。
13.根據(jù)權(quán)利要求12所述的計(jì)算機(jī)實(shí)現(xiàn)的方法，所述計(jì)算機(jī)實(shí)現(xiàn)的方法還包括：
14.根據(jù)權(quán)利要求9所述的計(jì)算機(jī)實(shí)現(xiàn)的方法，其中經(jīng)由第一階段和第二階段來訓(xùn)練所述深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)，其中所述第一階段包括基于應(yīng)用于所述多個(gè)任務(wù)專用主干網(wǎng)絡(luò)的正則項(xiàng)來訓(xùn)練所述公共主干網(wǎng)絡(luò)和所述多個(gè)任務(wù)專用主干網(wǎng)絡(luò)，并且其中所述第二階段包括凍結(jié)所述公共主干網(wǎng)絡(luò)并移除所述正則項(xiàng)。
15.根據(jù)權(quán)利要求14所述的計(jì)算機(jī)實(shí)現(xiàn)的方法，其中基于由多個(gè)教師網(wǎng)絡(luò)生成的真實(shí)注釋以監(jiān)督方式訓(xùn)練所述深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)。
16.根據(jù)權(quán)利要求14所述的計(jì)算機(jī)實(shí)現(xiàn)的方法，其中將新的任務(wù)專用主干網(wǎng)絡(luò)添加到所述多個(gè)任務(wù)專用主干網(wǎng)絡(luò)，其中訓(xùn)練所述新的任務(wù)專用主干網(wǎng)絡(luò)，同時(shí)凍結(jié)所述公共主干網(wǎng)絡(luò)以及所述多個(gè)任務(wù)專用主干網(wǎng)絡(luò)的剩余部分。
17.一種用于促進(jìn)具有增加的模塊化和減少的占用空間的深度學(xué)習(xí)圖像分析的計(jì)算機(jī)程序產(chǎn)品，所述計(jì)算機(jī)程序產(chǎn)品包括非暫態(tài)計(jì)算機(jī)可讀存儲(chǔ)器，所述非暫態(tài)計(jì)算機(jī)可讀存儲(chǔ)器具有包含在其中的程序指令，所述程序指令能夠由與一個(gè)或多個(gè)醫(yī)學(xué)成像設(shè)備相關(guān)聯(lián)的處理器執(zhí)行以使所述處理器執(zhí)行以下操作：
18.根據(jù)權(quán)利要求17所述的計(jì)算機(jī)程序產(chǎn)品，其中所述深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)還包括與所述共享主干網(wǎng)絡(luò)并行并且與所述多個(gè)任務(wù)專用主干網(wǎng)絡(luò)并行的多個(gè)模態(tài)專用主干網(wǎng)絡(luò)，其中所述多個(gè)模態(tài)專用主干網(wǎng)絡(luò)中的相應(yīng)模態(tài)專用主干網(wǎng)絡(luò)對(duì)應(yīng)于所述多個(gè)任務(wù)專用主干網(wǎng)絡(luò)的相應(yīng)子集。
19.根據(jù)權(quán)利要求18所述的計(jì)算機(jī)程序產(chǎn)品，其中所述深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)還包括分別與所述多個(gè)任務(wù)專用主干網(wǎng)絡(luò)串聯(lián)的多個(gè)拼接層，其中所述共享主干網(wǎng)絡(luò)接收所述成像數(shù)據(jù)作為輸入并且產(chǎn)生第一中間輸出，其中所述多個(gè)模態(tài)專用主干網(wǎng)絡(luò)接收所述成像數(shù)據(jù)作為輸入并且產(chǎn)生多個(gè)第二中間輸出，其中所述多個(gè)任務(wù)專用主干網(wǎng)絡(luò)接收所述成像數(shù)據(jù)作為輸入并且產(chǎn)生多個(gè)第三中間輸出，并且其中所述多個(gè)拼接層將所述多個(gè)第三中間輸出中的相應(yīng)第三中間輸出與所述第一中間輸出以及所述多個(gè)第二中間輸出中的相應(yīng)第二中間輸出拼接，從而產(chǎn)生多個(gè)拼接結(jié)果。
20.根據(jù)權(quán)利要求19所述的計(jì)算機(jī)程序產(chǎn)品，其中所述深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)還包括分別與所述多個(gè)拼接層串聯(lián)的多個(gè)任務(wù)專用頭部，其中所述多個(gè)任務(wù)專用頭部接收所述多個(gè)拼接結(jié)果作為輸入并且產(chǎn)生所述多個(gè)推斷輸出。