Przejdź do treści
Giorgi Eliadze
Projekty: Boxette Group

lis 2025 – kwi 2026

Ocena jakości rozmów przez AI

Nagrane rozmowy transkrybowane i oceniane przez Gemini według 8 kryteriów, z kartą ocen dla każdego operatora

  • AI
  • Kontrola jakości z AI
Czas trwania
5 miesięcy
Firma
Boxette Group
Rola
Projekt rubryki; budowa przepływu i wizualizacji

Przegląd

Pipeline w n8n, który brał każdą nagraną rozmowę z call center, zlecał Gemini jej transkrypcję i ocenę według rubryki z 8 kryteriami, zapisywał wynik w Postgres, wysyłał operatorowi osobistą kartę ocen i zasilał dashboard Power BI. Powstał w listopadzie 2025 r. i był rozwijany do kwietnia 2026 r.

Narzędzia

  • n8n
  • Gemini
  • PostgreSQL
  • Power BI
  • Mattermost

Za mało odsłuchanych rozmów

Przełożeni mogli odsłuchać tylko niewielką część rozmów, więc operatorzy dostawali mało spójnej informacji zwrotnej, a dawna ocena według 4 kryteriów była zbyt ogólna, by na jej podstawie szkolić. Celem było ocenianie każdej rozmowy w ten sam sposób i podawanie każdemu operatorowi uzasadnienia oceny.

Rubryka i test modeli

Zaprojektowana przeze mnie rubryka ma 8 kryteriów i 100 punktów (obsługa, jasność, empatia, aktywne słuchanie, dokładność, rozwiązywanie problemów, efektywność, radzenie sobie ze stresem), zasady odejmowania punktów i prompt audytora QA po gruzińsku. Następnie porównano Gemini 2.5 Pro i Flash na tych samych rozmowach i wyceniono oba modele. Flash oceniał realistyczniej (81 wobec 93 przy tej samej rozmowie) przy ok. jednej szóstej kosztu.

Jak działał pipeline

Przepływ n8n pobierał z tabeli połączeń systemu telefonii po jednej nieocenionej rozmowie i ściągał nagranie; Gemini zwracał transkrypcję, kategorię rozmowy i oceny, które przepływ parsował, wyceniał i zapisywał. Nieczytelne odpowiedzi trafiały do dziennika wraz z kosztem, a rozmowa wracała do kolejki; gdy węzeł Gemini z LangChain zaczął zawodzić przy audio, ten krok przebudowano jako bezpośrednie żądanie HTTP z dźwiękiem przesyłanym w treści. Każdy operator dostawał w Mattermost wiadomość ze swoją oceną i uzasadnieniem, a niestandardowa wizualizacja Power BI w TypeScript dodała do tabeli ocen podpowiedzi z komentarzami dla poszczególnych komórek, czego standardowa tabela nie potrafi.

Rezultat

Do 20 kwietnia 2026 r. baza zawierała 32 013 rozmów, z czego 2 199 oceniła AI, ze średnim wynikiem 78,4 na 100, a do 28 kwietnia oceniono 3 507 rozmów. Prognozowany koszt przy 300 rozmowach dziennie wynosił ok. 150 GEL miesięcznie dla Flash wobec ok. 820 GEL dla Pro. Nowa obsługa błędów odzyskała 124 zablokowane rozmowy.

Projekty: Boxette Group