注意力机制实现机器翻译
介绍 Attention模型形象的比喻就是“图像对焦”。 上图是 Encoder-Decoder 模型, Decoder 中每个单词生成过程如下: 其中 C 是“语
介绍 Attention模型形象的比喻就是“图像对焦”。 上图是 Encoder-Decoder 模型, Decoder 中每个单词生成过程如下: 其中 C 是“语
前幾天,我們介紹了「機器學習領域的七大謠傳」,其中一個謠傳就是「訓練超深度殘差網路怎麼少得了批歸一化(BN)!」。文中介紹了論文《Fixup Initialization: Residual
編者按:人工智慧領域的國際頂級會議AAAI 2019將於1月27日至2月1日在美國夏威夷舉行。根據已經公佈的論文錄取結果,今年的大會錄取率創歷史新低,投稿數量高達7745篇,錄取的數量僅有16%左右。但
深之蓝的水下自游器 铅笔道获悉,12月6日,在杭州人工智能小镇,首届“人工智能与智能制造前沿技术产业论坛召开,主办论坛分别从企业的智能化转型、智能医疗、智能视频、仿生机器人研究、机器人技术应用场景
NLP裡最常用、最傳統的深度學習模型就是 迴圈神經網路 RNN (Recurrent Neural Network)。這個模型的命名已經說明了資料處理方法,是按順序按步驟讀取的。與人類理解文字的道理差不多,看
编者按:本文来自微信公众号:碧桂园,(ID:bgydream),原标题:《杨国强:这个世界会给最具竞争力的企业开绿灯》,36氪经授权转载 12月10日,碧桂园集团管理会议上,集团董事会主席杨国强用了一个
機器之心編輯, 參與:劉曉坤、思源 近日,來自 MIT 和 UNAM 的四名學生構建了一個收錄了最優演算法的網站,他們按領域、任務和資料集採集了最先進水平(SOTA)的論文,併為不同的任務提供
《使用篇章上下文提升 Transformer 翻譯模型》 是搜狗和清華大學天工研究院合作發表在 EMNLP 2018 的工作。機器翻譯在搜狗公司的多個產品線得到廣泛應用,包括搜狗英文搜尋、搜狗輸入法
【TechWeb】11月7日,在2018IWSLT(International Workshop on Spoken Language Translation)全球頂級口語機器翻譯評測大賽上,搜狗憑藉BLEU(
在這個處處連線的網際網路世界裡,人與人之間的溝通和交流變得無比的方便快捷。但現在的問題是,語言的差異仍然像是一道深不可測的鴻溝擺在擁有不同文化背景的人們面前。 近年來,人工智慧學者們一直持續改進機
自從注意力機制與編碼器解碼器架構在 NMT 模型中佔統治地位後,就很少有研究者質疑它們的威力。而最近華盛頓大學的研究者移除了這兩種結構,並採用一種類似語言模型的極簡 NMT 架構。因為崇尚LSTM無所不能且模
隨著近年來端到端的深度神經網路的流行,文字生成逐漸成為自然語言處理中一個熱點研究領域。文字生成技術具有廣闊的應用前景,包括用於智慧對話系統,實現更為智慧的人機互動;我們還可以通過自動生成新聞、財報及其它型別的
本文將介紹騰訊 AI Lab 發表於 EMNLP 2018 的兩篇論文,論文關注的是文字到文字生成研究領域中的文字風格轉化及對話生成任務。 其中,在文字風格的論文中,作者提出了一個新的序列編輯模型旨
最近科技圈裡火了一個詞叫“人機耦合”,主要原因當然是因為此前科大訊飛人工同傳“假扮”AI同傳,而科大訊飛將這種人工寫出譯文、機器發音的方式稱為人機耦合,而使用者們則用這個詞表示對科大訊飛的調侃。 這也再度加大了AI
雖然 AI 語音翻譯已經應用到了不少生活、工作場景,但不得不說,AI 也許在國際象棋、自動駕駛、診斷癌症、射擊罰球和預測農作物產量等方面優於人類,但是當涉及到翻譯和口譯時,它還是沒法完全取代人類大腦。 其一,