Picking the most likely sentence
前言
如何從翻譯模型中找出最好的翻譯結果。
內容
Machine translation as building a conditional language model
- 比較Language model跟Machine translation作比較。
- Machine translation又可以稱為conditional language model,跟Language model最大的不同是多了encode module,必須先將原來input轉過一手後(生成embedding vector)才能拿來使用,所以叫conditional,是表示在某個前提下才能用的模型。
Finding the most likely translation
- 翻譯有好有壞,如何找出最好的翻譯句子。
- 模型每次翻譯的結果,不是每次都是相同,所以要想辦法讓模型找出最準確的句子,那就beam search的算法。
Why not a greedy search?
- greedy search就是每個單字都是用機率最高的單字。
- 從例子來看,going的機率比visting的機率還高,但整體句子的翻譯體驗並不是最好。
該學到的
- 什麼是conditional language model。
- 為什麼要挑出最好的翻譯句子。
- 為什麼不能用greedy search。