Czy mniejsze modele AI zdetronizują gigantów? Powstała firma, która rzuca wyzwanie

Halucynacje i błędy faktyczne to plaga, z którą zmagają się nawet najpotężniejsze modele językowe. Branża szuka rozwiązania, a tymczasem startup Probably, wsparty 9 milionami dolarów od Andreessen Horowitz, twierdzi, że znalazł sposób na osiągnięcie niemal idealnej precyzji, rzędu 99.99%, która do tej pory była domeną systemów deterministycznych, a nie sztucznej inteligencji.

Filozofia Probably to rewolucyjne spojrzenie na inżynierię AI. Zamiast budować coraz większe i bardziej złożone modele, firma skupia się na tworzeniu zaawansowanego systemu walidacyjnego. Pierwszym owocem tych prac jest narzędzie do analizy danych, które generuje szybkie odpowiedzi z kompleksowych zbiorów, zawsze z cytatem i ścieżką audytu. To już staje się standardem, ale klucz tkwi w „mechanicznym kombinezonie do nauki o danych”, jak opisuje go założyciel Peter Elias.

Mocne uprzęże, słabsze modele

Rozwiązanie od Probably opiera się na sprawdzaniu wstępnych odpowiedzi LLM przez deterministyczny walidator, który odrzuca niezgodne wyniki. Co istotne, sam model został wytrenowany właśnie z myślą o tym walidatorze, a cały system jest zoptymalizowany pod kątem szybkości i dokładności. To zmienia zasady gry.

„To, czego nauczyliśmy się podczas budowania tego, to fakt, że im lepsza jest inżynieria uprzęży, tym słabszy może być model” - mówi Elias. „Jeśli uda ci się wystarczająco dopracować kontekst, model nie musi się zbytnio wysilać, by zrobić to, co trzeba. Zasadniczo jest to ćwiczenie w redukowaniu dwuznaczności.”

Ta strategia pozwala narzędziu Probably działać na znacznie mniejszych modelach AI - obecnie na takim, który jest „cztery klasy słabszy od modeli granicznych”. To oznacza, że można go uruchomić na lokalnym sprzęcie, a nie w centrum danych. Rezultat? Znacząca redukcja kosztów tokenów, co jest niezwykle cenne w obliczu ich rosnących cen i ograniczeń budżetowych firm.

Podejście Eliasa ma potencjał wyjść poza naukę o danych, obejmując takie dziedziny jak księgowość czy usługi medyczne - czyli „każde zastosowanie wrażliwe na precyzję”. To wyraźny sygnał, że przyszłość AI niekoniecznie leży w ślepym dążeniu do gigantomanii modeli, ale w sprytniejszym ich wykorzystaniu i weryfikacji.

Elias nie kryje zaskoczenia postawą dużych laboratoriów AI. Uważa, że brak prób w tym kierunku wynika z ich modelu biznesowego - zarabiają więcej, im częściej użytkownik musi poprawiać model. Jest to gorzka pigułka do przełknięcia dla wielu użytkowników, ale dla takich firm jak Probably - otwiera zupełnie nowe możliwości i perspektywy rozwoju.