Kwantyzacja a liczba parametrów LLM w praktyce – testowanie lokalnych modeli do pisania prozy (Q8 czy 30B?) – cz. II

Druga pętla była już mniej o tym, „czy w ogóle się da”, a bardziej o tym, „jak to poukładać, żeby modele miały z czego budować”. (link do części pierwszej: https://sailingbyte.com/pl/blog/kwantyzacja-a-liczba-parametrow-llm-w-praktyce-testowanie-lokalnych-modeli-do-pisania-prozy-q8-czy-30b-cz-i/) Po pierwszych próbach stało się jasne, że samo wrzucenie do kontekstu postaci, świata, konfliktu i kilku ważnych motywów nie wystarcza. Model potrafi wygenerować ciekawy fragment, dobrze brzmiącą scenę albo przekonujący dialog, ale jeśli nie dostanie stabilnego fundamentu, bardzo szybko zaczyna dopowiadać sobie brakujące elementy po swojemu.

Dlatego w drugiej pętli najważniejsza była dyscyplina na wejściu. Trzeba było uporządkować informacje, wyeliminować sprzeczności, jasno określić zależności między wydarzeniami i zdecydować, które elementy świata są naprawdę obowiązujące. Mniej było tu wiary w to, że „model się domyśli”, a więcej pracy nad tym, żeby nie musiał się domyślać. Innymi słowy: zamiast oczekiwać, że LLM sam poskłada luźne notatki w spójną strukturę, należało najpierw przygotować mu materiał, z którego da się tę strukturę zbudować.

I choć to dopiero początek artykułu, jest to chyba dobre podsumowanie pracy z LLM-ami już teraz: im lepsze wejście, tym lepsze wyjście. Nie chodzi tylko o ładniejszy prompt, ale o jakość danych, porządek w założeniach, brak wzajemnie wykluczających się informacji i jasne reguły działania. Model może pomóc w tworzeniu, rozwijaniu i testowaniu pomysłów, ale nie zastąpi porządku tam, gdzie na starcie panuje chaos.

Druga pętla twórcza – jak zbudować proces wielu zapytań?

Aspektem który wymagał szczególnej uwagi była parametryzacja i kwantyzacja modeli oraz ich dobór na każdym etapie tej pętli. O ile teoretycznie model o większej liczbie parametrów ale gorszej kwantyzacji powinien być modelem lepszym:

• https://gist.github.com/Artefact2/b5f810600771265fc1e39442288e8ec9
• https://medium.com/data-from-the-trenches/quantization-in-llms-why-does-it-matter-7c32d2513c9e
• https://www.reddit.com/r/LocalLLaMA/comments/1441jnr/k_quantization_vs_perplexity/

Kusiło mnie to do wykorzystania jedynie modeli o jak największej liczbie parametrów kosztem kwantyzacji (30B, a nawet 70B, czego próbowałem w pierwszej pętli) jednak podczas prac zauważyłem, że najlepszą „głębię” postaci oraz zdecydowanie bardziej kreatywne słownictwo uzyskuje się w modelach o wysokiej kwantyzacji (Q6 a najlepiej Q8) nawet przy mniejszej liczbie parametrów. Wniosek jest z tego taki: choć teoretycznie model może być „mądrzejszy”, to niekoniecznie znaczy że będzie „lepszy” do danego zastosowania i czasem lepsza kwantyzacja będzie bić o głowę większą liczbą parametrów.

Ponadto trafiłem na modele fine-tuningowane pod konkretne przeznaczenie – w tym wypadku właśnie pod pracę twórczą. Nie ma jednak rankingów modeli fine-tuningowanych pod pisanie i kreatywność, ponieważ są to procesy bardzo trudne do oceny i subiektywne. Jednak po wykonaniu około 50 testów wyłoniłem moich – oczywiście subiektywnie najlepszych – kandydatów. Pozwoliło to na uzyskanie o wiele lepszej bazy. Znacznie większą uwagę zwróciłem też na wielkość kontekstu ponieważ przy długich tekstach jest to bardzo istotne.

Te i pozostałe poprawki sumarycznie pozwoliły uzyskać opowieść o całkiem niezłej jakości, którą finalnie przetłumaczyłem ręcznie – poprawiając język, konwersacje, drobne niespójności i nadając całości tak zwany “final touch”.

Druga pętla – opis techniczny przebiegu testów

Wiedziałem, że żeby otrzymać lepszy wynik na końcu, muszę dać LLM-owi lepszy punkt wyjścia. Mając już więc pewną ideę, musiałem po prostu poprawić i doprecyzować wszystkie kroki i elementy, co w zamyśle miało skutkować lepszym finalnym rezultatem.

Zwróciłem też uwagę na dłuższe i bardziej precyzyjne zapytania do modeli. W porównaniu do poprzednich komend te były bardziej rozbudowane i bardziej precyzyjne. Ale też nie chciałem ich celowo za bardzo rozbudowywać, żeby nie ograniczać kreatywności modelu.

Ponadto przy bardziej kreatywnych zadaniach testowałem wyższe temperatury żeby uzyskać bardziej kreatywne odpowiedzi, co sumarycznie dobrze wpłynęło na finalną jakość.

Druga lista modeli

W tej selekcji chodziło mi już mniej o „benchmarkową mądrość”, a bardziej o praktyczne cechy: kontekst, sensowną kwantyzację i to, czy model ma w sobie coś, co sprzyja pisaniu. Dlatego zamiast bazować na modelach które najlepiej radziły sobie w testach logicznych, używałem modeli które:

• Miały jak największy kontekst
• Miały jak najbardziej precyzyjny kwant, nawet kosztem rozmiaru
• Były trenowane i wyspecjalizowane w pisaniu (a więc były fine tuningowane zestawami danych poprawiającymi te elementy)
• Potencjalnie dodatkowym plusem była “abliteracja” (ang. abliteration) lub inaczej “odcenzurowane” modelu – czyli modele z których zdjęto zabezpieczenia, co miało skutkować mroczniejszymi i bardziej “graficznymi” opisami, a także uznałem że takie modele lepiej poradzą sobie ze “złymi” postaciami

Konieczne elementy składowe

Zapytanie do Capybara Hermes oraz Gemma The Writer:

Assume the role of creative writer helper. Your task is to help writer to create a coherent and interesting world. Propose what elements should be defined before starting writing a story and what should those contain (for example: background history of world where action takes place).

Ponieważ modele Gemma i Capybara są bardziej kreatywne, odpowiedzi były napisane kwiecistym zamiast informatywnym językiem, natomiast nie przeszkadzało to w niczym. Mimo wszystko nie dostałem podpowiedzi odnośnie żadnych dodatkowych elementów, więc dalej pracowałem na tej samej liście, co w sumie nie przeszkadza, bo sądzę że taka baza powinna wystarczyć. Jednak dostałem ciekawe podpowiedzi odnośnie opisu świata przedstawionego, które zdecydowałem się uwzględnić w późniejszym etapie. Skompilowana lista przedstawiała się tak:

1. Tematyka pracy – opis ogólnego osadzenia świata
2. Opis świata przedstawionego
   1. Rząd i polityka
   2. Baza ekonomiczna (technologia i zasoby)
3. Karty charakterystyk postaci
4. Styl literacki oraz odbiorca

Poprawki do głównego wątku

Do tej pory korzystałem z następującego opisu przy zapytaniach do AI:

In small medieval town there is plague of mysterious robberies and thefts. Local sheriff attempts to use “Justice System” – mysterious object analyzing schemas – to detect thefts. He is assisted by his sidekick, who does not really trust the Justice System.

Z perspektywy poprzednich odpowiedzi i rezultatu pierwszej pętli – tak ważny element wykorzystywany do kontekstu LLM-ów praktycznie wszędzie powinien mieć bardziej precyzyjny opis i zawierać już w sobie zarys fabuły tak, aby wszystkie inne generowane elementy go uwzględniały. Ponieważ miałem już zarys fabuły, mogłem znacznie rozwinąć ten opis.

In small medieval town Kopperwah there is an ongoing plague of robberies and thefts. Local Sheriff Jameson attempts to use “Justice System” – a software run on his sidekick AI robot named Gideon – which analyzes schemas to detect thefts. Because for two years there is no progress, king sent his agent – Erica – to help with this case. At the same time villagers are trying to use Heartstone for the same purpose, but without success so far.

Tak sformułowany główny wątek mocno precyzował, co chcę osiągnąć, i poprawiał rezultaty następujących po nim zapytań. Do następnych zapytań, tam gdzie było to pomocne, używałem właśnie tego nowego opisu tematu. Dzięki temu niezależnie od tego który element opowieści budowałem, ta jedna kluczowa prawda w postaci bazowego opisu fabuły praktycznie zawsze była zachowana.

Opis świata przedstawionego

Chciałem żeby opis świata przedstawionego był bardziej precyzyjny i nieco szerszy – czyli w praktyce, żeby świat był nie tylko „ładny”, ale też funkcjonalny: polityka, ekonomia i technologia miały zacząć tłumaczyć, dlaczego w ogóle coś złego może się dziać i dlaczego ma to znaczenie. Wybrałem do tego model Qwen Writer ponieważ w testach wykazał, że ma dobry balans między kreatywnością a wykonywaniem instrukcji. Dostał za zadanie stworzenie o wiele bardziej precyzyjnego opisu świata, z czym poradził sobie wyśmienicie tworząc kilka akapitów. Chciałem też, żeby model był możliwie kreatywny, więc zastosowałem temperaturę 0.9 oraz maksymalną liczbę tokenów odpowiedzi ustawiłem na 6096.

W odpowiedzi dostałem niezły opis świata, który następnie ręcznie poprawiłem tak, aby móc go wykorzystać w dalszych zapytaniach. Warto zwrócić uwagę, że usunąłem w ogóle postacie z tej listy, ponieważ i tak zostaną zdefiniowane w szczegółach w kartach charakterystyk. Ostateczny rezultat wygląda jak poniżej:

1. History: Kopperwah was founded 80 years ago by settlers seeking refuge from the chaos of war-torn kingdoms to the east and north. The town prospered due to its strategic location on neutral area along trade routes connecting these rival realms. Known for its good grade copper and trustworthy merchants. In recent years an increase in crime has plagued Kopperwah, threatening both safety and prosperity.

2. Major events: Two significant occurrences have shaped modern-day Kopperwah:

– Finding copper and building mines: 75 years ago

– Grant town status from king Aldric III and establishing peaceful trade relations with neighboring towns: 60 years ago

– Great Plague which decimated the population and greatly reduced trade: 10 years ago

– Heartstone discovery in copper mines: 2 years ago

3. Geopolitical landscape: Kopperwah is an autonomous town within a larger kingdom ruled by King Aldric IV. While technically under royal jurisdiction, it enjoys considerable self-governance due to its economic importance as a trading hub. Tensions occasionally arise between the king’s agents and local authorities over matters of law enforcement and taxes. Aldric III and Aldric IV being intelligent kings learned and earned a lot by observing fighting kingdoms in the north and east.

4. Cities and settlements: Nearby towns include:

– Rolleypick (to the north, behind the border): A community of farmers and fishermen.

– Willowbrook (to the east, behind the border): Home to skilled blacksmiths and armor makers.

– Ravenhold (to the south, within kingdom borders): Renowned for its herbalists and healers.

5. Geography and climate: Kopperwah is nestled in a valley surrounded by rolling hills, with mild temperatures year-round due to its proximity to both mountains and forests. The town sits along the banks of the Copperstream River, which serves as an important trade route connecting it with Rolleypick and Willowbrook.

6. Economy: Kopperwah’s economy is based on copper mining and trade with adjacent towns. Kopperwah earns a lot of money as a neutral trade hub between fighting kingdoms of north and east, facilitated through its central location between rival kingdoms. Local artisans produce high-quality goods such as textiles, pottery, and copper art that are traded extensively throughout the region. The town also benefits from being a waypoint for caravans transporting valuable resources like spices, silks, and precious metals.

7. Cultural context: Kopperwah is known for its vibrant festivals celebrating seasonal changes and harvests. Adjacent towns of Relleypick and Willowbrook often ignore war and arrive to Kopperwah to rest from war and have some fun. Residents place great value on community cooperation and mutual support during times of hardship. Despite the recent surge in crime, most villagers maintain a sense of optimism about overcoming challenges together.

8. Technological infrastructure: wartime technology is heavily based on copper – which makes Kopperwah strategically a very important town. But since the town is outnumbered by plague it became easier to target by thieves. In response to rising criminal activity, Sheriff Jameson has implemented innovative technological solutions like the Justice System – exotic software used by Gideon (robot and his companion) designed to analyze patterns and predict potential thefts or robberies before they occur. These advancements represent cutting-edge developments in law enforcement within the kingdom.

9. Unique features:

– Heartstone: An ancient artifact said to have been crafted by powerful mages long ago, imbued with the ability to reveal truth and falsehood based on hearing the person speak. Only responds to Gynerva.

Ten opis świata, tak jak i główny wątek, był wykorzystywany w późniejszych zapytaniach jako część „system prompt” – bazowych instrukcji modelu. Może się wydawać, że jest to dużo jak na instrukcję, ale wcale tak nie jest. Jest to ilość, z którą bez problemu radzą sobie nawet lokalnie uruchamiane modele.

Karty charakterystyk postaci

W tym miejscu zacząłem przeczuwać, że jeden paragraf na postać już nie wystarczy, a ponadto zaczęły się rysować coraz wyraźniejsze potencjalne konflikty interesów między postaciami. Uznałem, że aby uniknąć halucyjnacji, należy rozbudować charakterystyki o elementy takie, jak: opis fizyczny, cechy charakteru, umiejętności, motywacje, krótkie backstory, powiązania z innymi postaciami czy ukryte motywacje. Niekoniecznie wszystkie te elementy byłyby bezpośrednio użyte w opowiadaniu (tak jak nie wszystkie elementy świata przedstawionego), ale mogą mieć pośredni wpływ na działanie postaci, dlatego powinny znaleźć się w kontekście.

Znów wykorzystałem model Qwen Writer, ponieważ dobrze poradził sobie z opisem świata. Dla każdej postaci wywołałem osobne zapytanie według wzoru:

Assume the role of creative writer helper, tasked with describing character for story. You should be very creative and descriptive. Character should be compatible with World Description and fit into this world. It’s characteristics should be clearly outlined and affect their actions within described World.

Character Card should have following:

1. The name of the character.

2. Physical Description (weight, height)

3. Personality Traits (strengths, weaknesses)

4. Motivations: What drives the character? Their goals, desires, fears, and values.

5. Backstory: A brief summary of the character’s past experiences, including childhood, significant events or relationships, traumatic experiences (if applicable)

6. Natural abilities or skills they possess, formal education or training received

7.Key connections to other characters, including family members, friends and allies, enemies or rivals

8. Goals & Conflicts: What the character wants to achieve (short-term and long-term) and what obstacles they face in pursuing those goals.

9. Unique mannerisms, speech patterns, or behaviors that make them stand out

10. Motivational Quotes: Inspirational quotes or phrases that drive the character’s actions or decisions.

Describe character:

[Opis postaci z pierwszej pętli]

Ze względu na większą kreatywność modeli zaczęły się pojawiać pewne niespójności, więc musiałem poprawić te karty ręcznie (pomieszane miejsce urodzenia, opis Gideona jako człowieka, czy informacje których nie planowałem użyć a tylko utrudniłyby LLM-om dalsze działania).

W wyniku tych prac powstały długie karty postaci – sumarycznie prawie 19’000 znaków – i to bez opisu świata. W tym momencie podejrzewałem, że opowiadanie będzie bardzo “gęste”, żeby można było zmieścić jak najwięcej faktów zarówno ze świata przedstawionego jak i odnośnie postaci.

Styl literacki oraz odbiorca

Tu dołożyłem „pazur”, bo uznałem, że jeśli już testuję modele bez cenzury, to niech chociaż będzie z tego realna różnica w tonie i w energii scen. Chciałem, żeby niecenzurowane modele mogły wprowadzić odrobinę brutalności i wulgarnego języka, dostosowałem więc prompt tak, żeby był bardziej “niegrzeczny”. W rezultacie powstała następująca instrukcja:

Story should be written for well-red adults that like science-fiction and fantasy, with occasional usage of archaic languages. You can use: graphic descriptions including blood, a bit gore, violence, strong language and strong interactions between characters.

Taki opis może wydawać się za mocny, jednak trzeba pamiętać że modele mają tendencje do uśredniania – a w tym wypadku „spłycania” – instrukcji, więc rezultat wcale nie był drastyczny, a raczej na poziomie „dla nastoloatków”.

Przebieg wydarzeń

Ten fragment prac był dość „techniczny, bo spójny plan wydarzeń to dla modeli coś pomiędzy logiką a dramaturgią — i tu widać, gdzie kończy się ich pewność siebie, a zaczyna improwizacja. RAG wciąż nie dawały rady, ponieważ gubił za dużo szczegółów. Nie jestem pewien dlaczego – być może wynika to z samej natury RAG-a, być może trzeba było użyć innego silnika lub innych promptów. Sumarycznie aby uzyskać jak największą spójność, zdecydowałem wrzucać wszystko do kontekstu. Testowałem kilka konfiguracji, ale standardowo założenie było takie, żeby połączyć wszystkie powyższe elementy. Więc przykładowy prompt wyglądał tak:

You are a helper of a professional writer. You are given in attachments elements of the world: topic description, world description, character cards and writing style. Your task is to generate a list of events for a short story.

Story should be written for well-red adults that like science-fiction and fantasy, with occasional usage of archaic languages. You can use: graphic descriptions including blood, a bit gore, violence, strong language and strong interactions between characters.

In small medieval town Kopperwah there is an ongoing plague of robberies and thefts. Local Sheriff Jameson attempts to use “Justice System” – a software run on his sidekick AI robot named Gideon – which analyzes schemas to detect thefts. Because for two years there is no progress, king sent his agent – Erica – to help with this case. At the same time villagers are trying to use Heartstone for the same purpose, but without success so far.

A poniżej tego był jeszcze opis świata przedstawionego i wszystkie karty postaci.

Przetestowałem prompt na wszystkich modelach z “drugiej listy modeli” i rezultat był taki, że nie byłem zadowolony. Odpowiedź z Gemma Writer okazała się totalnym bełkotem, natomiast pozostałe odpowiedzi nie były zadowalające – pod tym kątem że plany wydarzeń nie były wystarczająco dokładne, bywały niespójne oraz za mało działo się między bohaterami. Nawet sugerowały że szeryf jest co najmniej niekompetentny i przez dwa lata nie zastosował nawet podstawowych technik śledczych (jak “zwrócenie się do mieszkańców o pomoc w zdobyciu informacji”). Z drugiej strony pojawiły się też dobre pomysły (jak np. Sygile) które chętnie wykorzystałem.

Sumarycznie nie dało się wykorzystać żadnej z odpowiedzi jeden do jednego, więc wykorzystałem je wszystkie jako bazę do stworzenia własnego planu wydarzeń. Wciąż brakowało mi jakichś 15% i nie mogłem nic wymyślić (na wysokości ok. 70% opowiadania) – bo wydarzenia nagle stawały się w moim przekonaniu “za gęste”. Rozwiązaniem okazało się poproszenie właśnie Gemmy Writer o uzupełnienie brakującego wycinka. W rezultacie otrzymałem całkiem niezły plan wydarzeń, który był gotowy do ostatecznego twórczego przetworzenia.

Dokończenie opowiadania

Na tym etapie czułem już, że „z grubsza to działa”, ale wciąż musiałem tak poukładać proces, żeby modele nie rozjeżdżały się stylem, faktami i tonem „z dnia na dzień”. Dlaczego „z dnia na dzień”? Ponieważ zamiast kazać modelowi pisać wszystko na raz, pociąłem plan wydarzeń na dni, co dawało naturalny stały rytm powieści i pomagało modelom się nie gubić.

Stąd generalnie sprawa była już prosta. Do LLM-ów tym razem podawałem cały plan wydarzeń oraz opis świata, a LLM miał za zadanie stworzenie TYLKO jednego punktu (dnia) z planu wydarzeń. Propmt wyglądał następująco:

You are a helper of a professional writer. You are given in attachment world description.

Story should be written for well-red adults that like science-fiction and fantasy, with occasional usage of archaic languages. You can use: graphic descriptions including blood, a bit gore, violence, strong language and strong interactions between characters.

Main topic is: In small medieval town Kopperwah there is an ongoing plague of robberies and thefts. Local Sheriff Jameson attempts to use “Justice System” – a software run on his sidekick AI robot named Gideon – which analyzes schemas to detect thefts. Because for two years there is no progress, king Aldric IV sent his agent – Erica – to help with this case. At the same time Gynerva and Eleanor are trying to use Heartstone for the same purpose, but without success so far.

Your task is to generate next section based on the plan.

Events plan:

[tu wklejony plan wydarzeń]

Generate story for day number [X].

Kolejnym eksperymentem było używanie kilku LLM-ów na zmianę, które moim zdaniem spisywały się najlepiej, to jest Darkest Planet, Qwen Writer oraz Darkest Universe. Miało to dodawać różnorodności i dynamiki w stylu pisania.

Na sam koniec oczywiście po prostu połączyłem wszystkie dni w jeden ciąg, a rezultat przetłumaczyłem ręcznie z angielskiego na polski, wprowadzając tylko bardzo drobne poprawki.

Zdaję sobie sprawę z wielu literackich niedociągnięć tego rezultatu, ale jednym z moich założeń była jak najmniejsza ingerencja w rezultat końcowy. Chciałem, żeby głównym autorem opowiadania było AI. Dlatego finalna wersja jest koślawa i posiada niedociągnięcia, które na pewno mogłyby być poprawione ręcznie albo przy pomocy większych chmurowych modeli – ale byłoby to niezgodne z pierwotnymi założeniami, dlatego tego nie zrobiłem.

Co pisanie opowiadania może nauczyć inżyniera?

Ten fragment zostawiam w formie możliwie szczerej, bo to właśnie „na zimno” najlepiej pokazuje, co z tego eksperymentu można wynieść dla siebie.

Z samego opowiadania jestem zadowolony, ale wydaje mi się ono za bardzo “intensywne”, a jednocześnie dużo materiału nie zostało wykorzystane. Mam wrażenie że mógłbym zrobić z tego małą książkę, jednak rozmiar lokalnych kontekstów jest tutaj dużym ograniczeniem.

Sumarycznie, powtarzając taki eksperyment można się sporo nauczyć. Na przykład można:

• sporo się dowiedzieć o pracy z LLM-ami
• poznać ich niektóre „naturalne” ograniczenia
• nauczyć się pracy z kontekstem oraz skutkami przekraczania go
• dostosowywać „kreatywne” parametry
• poznać sporo ciekawych modeli
• zrozumieć lepiej różnice między kwantyzacją a liczbą parametrów
• poprawić swoje umiejętności w zakresie prompt engineering

A niejako jako gratis można wygenerować nienajgorsze opowiadanie. Dlatego polecałbym takie – na pierwszy rzut oka nietechniczne – ćwiczenie nawet tym, którzy na co dzień pracują z modelami bardzo technicznie.

Z wniosków, które można wyciągnąć po takim ćwiczeniu, sądzę że najbardziej kluczowe będą te:

• Czasem lepsza kwantyzacja jest więcej warta niż liczba parametrów. W przypadku prozy pozwalała uzyskać bogatsze słownictwo i głębsze relacje między bohaterami.
• Praca z RAG-iem może nie być taka prosta jak w założeniach i łatwo pominąć istotne fragmenty. Choć obecne RAG-owe systemy są o wiele lepsze, model musi umieć dobrze rozmawiać z takimi danymi.
• Kontekst i system message jest bardzo ważny w zakresie „rozmów” z modelami. Należy go zawsze zweryfikować – zwłaszcza do specyficznych zapytań.
• Najlepiej w danym zadaniu będzie radził sobie model, który jest wytrenowany stricte do danego zadania. Modele wyspecjalizowane (w pisaniu, w kodowaniu, w researchu) będą miały lepszy performance niż modele ogólne w danej dziedzinie. Jeśli nie ma gotowego modelu, czasem trzeba go samemu wytrenować.

Dodatkowy wniosek jest taki, że LLM-y mogą być fajną pomocą w tworzeniu opowiadań – na przykład kiedy jest się zablokowanym albo nie za bardzo się wie, od czego w ogóle zacząć. Niemniej ciężko jest uzyskać głębię postaci i ciekawe relacje między postaciami oraz solidny plot twist. Ponadto trzeba pilnować na każdym kroku spójności. Da się również “porozmawiać” z postaciami odpowiednio formatując odpowiedzi, ale często trzeba wiedzieć niejako z góry co mniej więcej chce się uzyskać.

Jeśli chcesz, żeby Sailing Byte pomógł Ci w doborze modelu, trenowaniu go oraz odpowiednim prompt engineeringu, który pozwoli osiągnąć najlepsze rezultaty w kontekście tego co chcesz osiągnąć, skontaktuj się z nami korzystając z formularza poniżej. Możemy zrobić dla Ciebie SaaS połączony z dedykowanym modelem AI, który będzie najbardziej optymalny do Twojego zastosowania.

Kluczowe jest to, że doświadczenia z takiego ćwiczenia da się przełożyć na inne dziedziny i w rezultacie można być po prostu lepszym „prompt engineerem”. Tak więc warto spróbować zrobić takie ćwiczenie, lokalnie i za darmo. I choć nie należy spodziewać się cudów na tym etapie rozwoju AI, to finalnie jest to też po prostu dobra zabawa z modelami.