PersonalAdvisor

Co wspólnego może mieć teoria Daniela Kahnemana i modele językowe? Daniel Kahneman, psycholog i laureat Nagrody Nobla w dziedzinie ekonomii, opisał w swojej książce “Pułapki myślenia. O myśleniu szybkim i wolnym” teorię dwóch systemów myślenia: Systemu 1 – szybkiego, intuicyjnego i odruchowego, oraz Systemu 2 – wolniejszego, bardziej analitycznego i autonomicznego. To znamy, gdzie tu jednak #LLM? Obecne modele językowe w dużej mierze działają na zasadach Systemu 1, opierając się na wzorcach i odruchach. Dopiero osiągnięcie poziomu Systemu 2 – z autonomicznym wnioskowaniem i zdolnością do uczenia się na własnych błędach – ukaże pełny potencjał tej technologii. Może to zarówno zachwycić, jak i budzić obawy. Nie zrażając się przyszłymi wyzwaniami, postanowiliśmy stworzyć „dream team” modeli językowych, które współpracują i uzupełniają się w ramach jednej platformy. Dziś pokażę, jak udało się zintegrować kilka modeli od różnych dostawców, tworząc system o coraz lepszej efektywności i spójności działania. Pierwszym i kluczowym elementem zespołu jest algorytm, który ma być odpowiedzialny za świadczenie głównej usługi – w tym przypadku ma doradzać użytkownikowi IT, choć to jedynie przykład. Jego skuteczność i jakość to efekt pracy całego zespołu, który nieustannie go dostraja i optymalizuje. Pozostali członkowie zespołu pełnią różne, istotne role: 1. Agent Użytkownik – Reprezentuje użytkownika końcowego. Stawia problemy, jest wymagający i konsekwentnie dąży do realizacji swoich celów. 2. Arbiter – Surowy sędzia jakości interakcji. Oceny dokonuje, posługując się ośmioma kryteriami, m.in. oceną merytoryczną, formą, długością odpowiedzi, klarownością, etyką i czasem reakcji. 3. Nauczyciel – Analizuje wyniki pracy arbitra i decyduje, jakie zmiany mogą poprawić system. Na tej podstawie rekomenduje usprawnienia i nadzoruje ich wdrożenie. Każdy z tych agentów jest algorytmem o różnym poziomie złożoności, każdy przeszedł swoją ewolucję. Modele pochodzą z różnych "stajni" technologicznych: w drużynie znalazły się m.in. #LLaMA od Facebooka, #Gemma od Google’a oraz polski #BielikLLM. Wszystkie modele przeszły liczne testy i optymalizacje, aby jak najlepiej spełniać przypisane im role. Dziś możemy powiedzieć, że ten „dream team” działa coraz skuteczniej. 😊 Wewnętrzne mechanizmy zespołu przypominają zasady reinforcement learningu na większą skalę. Pozwala to na systematyczną automatyzację testów oraz ciągłe udoskonalanie produktu Personal Advisor. W efekcie powstaje hybrydowy doradca, który przewyższa każdy z pojedynczych składników – podobnie jak efekt pracy zespołu przewyższa możliwości jego poszczególnych członków. Przedstawiam fragment mojej konsoli z którą się nie rozstaję a za nią trochę przyrody :-) PS: Kto wie gdzie to jest? #bielik #ai