在過去的幾十年中，研究人員開發(fā)了越來越先進(jìn)的人工智能(AI)工具和計(jì)算技術(shù)，可以將其應(yīng)用于各種環(huán)境中。其中，可以產(chǎn)生書面或口頭語言的技術(shù)引起了相當(dāng)大的關(guān)注，特別是隨著新語音助手，機(jī)器人和新交互設(shè)備的引入。

科羅拉多大學(xué)(UC)-科羅拉多斯普林斯分校和德魯里大學(xué)的研究人員最近開發(fā)了一種獨(dú)特的語言生成系統(tǒng)，該系統(tǒng)可以產(chǎn)生創(chuàng)造性的詩歌經(jīng)文。他們的系統(tǒng)在arXiv上預(yù)先發(fā)表的一篇論文中介紹，是對GPT-2(由OpenAI開發(fā)的一種預(yù)先訓(xùn)練的語言模型)的微調(diào)改編。

加州大學(xué)科羅拉多斯普林斯分校的教授Jugal Kalita負(fù)責(zé)最近的這項(xiàng)研究，從他在賓夕法尼亞大學(xué)畢業(yè)的那一天開始，過去30年來一直在進(jìn)行自然語言生成的研究。他于1988年發(fā)表的有關(guān)自然語言生成的第一篇論文旨在遵循一組基本規(guī)則，制作可能出現(xiàn)在典型期刊中的文字段落。最近，在自然語言處理(NLP)的人工神經(jīng)網(wǎng)絡(luò)技術(shù)進(jìn)步的啟發(fā)下，卡利塔(Kalita)教授和他的學(xué)生開始開發(fā)深度學(xué)習(xí)技術(shù)，以生成簡短的文章，對話和富有創(chuàng)意的寫作。

“研究自動詩歌生成這一主題的想法是在2019年夏季初提出的，當(dāng)時(shí)密蘇里州德魯里大學(xué)的科羅拉多大學(xué)科羅拉多斯普林斯分校的暑期實(shí)習(xí)生Brendan Bena對自動生成歌曲感興趣。歌詞。” Kalita教授告訴TechXplore。“他最初想研究一種系統(tǒng)，該系統(tǒng)試圖模仿通過歌詞產(chǎn)生的情感。”

由于大多數(shù)歌曲歌詞均受版權(quán)保護(hù)，因此尋找大型數(shù)據(jù)集來訓(xùn)練歌詞生成深度學(xué)習(xí)模型可能非常具有挑戰(zhàn)性。Bena和Kalita教授因此決定改為開發(fā)一種用于詩歌生成的深度學(xué)習(xí)工具。然而，與其像大多數(shù)以前的詩歌研究一樣，他們沒有像詩歌的結(jié)構(gòu)或節(jié)奏那樣關(guān)注諸如詩歌的結(jié)構(gòu)或節(jié)奏之類的特征，而是探索了其更具情感和創(chuàng)造力的方面。