Da habe ich doch angefangen, die KI samt LLM auf e den lokalen Rechner zu bringen.
Ich fand gpt4all von nomic. Lud dort den übersichtlichen Installer runter und installierte schnell. Dann in der Anwendung mußte ich noch ein Modell nachladen. Ich entschied mich für ein kleines Llama und legte dann mit der immer gleichen Frage los:
Erzähl mir was zum Blog blog.softwing.de
Als erstes begrüßte mich die scheue Kernal Panic. Danach beendete sich immer das Programm bei Ausgabe der Antwort. Vielleicht ist der PC etwas schwachbrünstig? Werde dann einen anderen nehmen.
Das Ergebnis (es fehlt noch etwas von der Antwort) soll aber nicht vorenthalten werden.
