中信建投： OpenAI“超級對齊”取得進(jìn)展，由弱到強(qiáng)泛化實(shí)現(xiàn)AI可控

每經(jīng)AI快訊，中信建投研報(bào)表示，12月15日，OpenAI“超級對齊”團(tuán)隊(duì)發(fā)布了成立以來的首篇論文，開辟了對超級模型進(jìn)行實(shí)證對齊的新研究方向。OpenAI認(rèn)為，比人類聰明得多的人工智能（超級智能）可以在未來十年之內(nèi)發(fā)展出來，然而如何正確的引導(dǎo)和控制超人的人工智能系統(tǒng)仍然沒有得到很好的解決，解決AI的可控問題對于如何確保最先進(jìn)的人工智能系統(tǒng)始終安全并造福人類至關(guān)重要。在最新的研究中，OpenAI實(shí)現(xiàn)了從弱模型監(jiān)督強(qiáng)模型的任務(wù),OpenAI使用GPT-2 模型來激發(fā) GPT-4 的大部分能力，使其達(dá)到接近 GPT-3.5 級別的性能。實(shí)現(xiàn)了“弱到強(qiáng)泛化”（Weak-to-strong generalization），即讓小模型監(jiān)督大模型，為“超級對齊”提供了切實(shí)可行的技術(shù)路線。預(yù)期OpenAI將在“超級對齊”研究中取得持續(xù)突破，我們看好安全可控下的大模型行業(yè)發(fā)展前景。