2024年11月14日消息，國(guó)家知識(shí)產(chǎn)權(quán)局信息顯示，小紅書科技有限公司申請(qǐng)一項(xiàng)名為“訓(xùn)練圖預(yù)訓(xùn)練模型的方法、對(duì)圖進(jìn)行分類的方法和裝置”的專利，公開號(hào)CN 118940097 A，申請(qǐng)日期為2023年5月。
專利摘要顯示，本申請(qǐng)公開了訓(xùn)練圖預(yù)訓(xùn)練模型的方法、對(duì)圖進(jìn)行分類的方法、裝置。訓(xùn)練圖預(yù)訓(xùn)練模型的方法包括：獲取步驟，獲取多個(gè)圖的多個(gè)向量表示，每個(gè)向量表示包括多個(gè)節(jié)點(diǎn)和多個(gè)邊；掩碼步驟，利用多個(gè)任務(wù)，分別對(duì)多個(gè)向量表示進(jìn)行掩碼處理，得到與多個(gè)任務(wù)分別對(duì)應(yīng)的多組掩碼向量表示；構(gòu)建步驟，利用多組掩碼向量表示，構(gòu)建與多個(gè)任務(wù)分別對(duì)應(yīng)的多個(gè)損失函數(shù)；訓(xùn)練步驟，利用多個(gè)損失函數(shù)對(duì)圖預(yù)訓(xùn)練模型進(jìn)行訓(xùn)練以得到訓(xùn)練后的圖預(yù)訓(xùn)練模型本發(fā)明的訓(xùn)練方法極大的提升了圖預(yù)訓(xùn)練模型的性能。