autoGan

GitHub原始連結

先說結論

他的原理就是把不同的語言模型當作不同的職位或是工作,用不同的排列讓他們自己去做互相的除錯.其實就跟人的工作一樣,團隊有不同的工作要互相合作來達成目標(可以使用不同的排列根據官方的論文PDF可以看一下下面的圖).那現在看起來是不是很美好,但是,對一定有個但是,這個但是就是成本,這個成本就是算力,因為你原本使用一個agent的成本就會直接翻倍三倍以上的去支出(當然相對於人的成本還是低很多).

 

Six examples of diverse applications built using AutoGen. Their conversation patterns show AutoGen’s flexibility and power

autoGen的官方網站

AutoGen 是一個框架,它可以啟用使用多個代理程序來開發LLM應用程式,這些代理程序可以互相對話以解決任務。AutoGen代理程序是可定制的,可以進行對話,並且可以無縫地允許人類參與。它們可以在使用LLM、人類輸入和工具的各種模式下運作。

AutoGen 能夠輕鬆建立下一代LLM應用程式,基於多代理對話,並減少開發工作量。它簡化了複雜LLM工作流程的協調、自動化和優化。

 

它最大程度地提高了LLM模型的性能,並克服了它們的弱點。它支持多種複雜工作流程的對話模式。

 

開發人員可以使用可定制和可對話的代理程序,使用AutoGen來建立關於對話自主性、代理程序數量和代理程序對話拓撲的各種對話模式。

 

它提供了一系列不同複雜性的運作系統,這些系統涵蓋了各種不同領域和複雜度的應用程式。這展示了AutoGen如何輕鬆支援多種對話模式。AutoGen提供了一個增強的推論API,可替代openai.Completion或openai.ChatCompletion,它允許輕鬆進行性能調整,提供API統一和緩存等實用工具,以及高級用法模式,如錯誤處理、多配置推論、上下文編程等。

 

AutoGen由Microsoft、賓夕法尼亞州立大學和華盛頓大學的合作研究項目支持。