Wer den stochastischen Papageien die künstliche Intelligenz ChatGPT nicht kennt, muss in der letzten Zeit unter einem Stein geschlafen haben. In kürzester Zeit haben erst OpenAI, dann Google und inzwischen OpenSource Chatbots herausgebracht, die Siri locker in die Tasche stecken.
Seit dem 25. März existiert mit GPT4All ein Model und auch eine gesamte Plattform (github), um Sprachassistenten lokal (on-prem) und sogar auf dem eigenen Laptop laufen zu lassen. Auf meinem MacBook mit M1-Prozessor läuft es auch erstaunlich gut - ganz ohne Nvidia Grafikkarte, CuDA oder sonstwas. Die Performance ist absolut akzeptabel - Hammer!
Besonders einfach ist das Nutzen unterschiedlicher LLMs - ganz egal ob von anderen Teams trainiert oder eigene. So macht KI Spaß!