Vom Prompt-Engineering zum Promptbreeding

· · · · · · | KI

Lesedauer < 1 Minuten

Von Prompt Engineering haben wir glaube ich alle mittlerweile gehört und wissen was das ist.
Nun haben Forschende von Google ein KI-System entwickelt, dass sich selbst verbessern kann, indem es rekursiv bessere Prompts generiert. So soll mit dem Promptbreeder soll das Prompt-Engineering automatisiert werden.

„Das System beginnt mit einem anfänglichen Satz von Prompts, die anhand der Leistung des Modells bei logischen Aufgaben mit diesen Prompts bewertet werden. Prompts mit hoher Punktzahl werden nach bestimmten in „Mutations-Prompts“ festgelegten Regeln mutiert, um neue Prompt-Variationen zu erzeugen, während Prompts mit niedriger Punktzahl verworfen werden. Dieser rekursive Prozess ermöglicht es Promptbreedern, einen großen Prompt-Raum zu erforschen und sehr effektive Prompts für verschiedene Domänen zu entdecken.

Entscheidend ist, dass Promptbreeder auch selbst-referenziell ist – es entwickelt nicht nur bessere Aufgaben-Prompts, sondern auch bessere Mutations-Prompts, die steuern, wie die Aufgaben-Prompts variiert werden. Auf diese Weise verbessert das System auch seinen eigenen Suchprozess und wird im Laufe der Zeit effizienter bei der Erstellung von Prompts.“

Was ich daran sehr spannend finde, sind die recursiven und selbstreferenziellen Ansätze, die hier verwendet werden. Denn tatsächlich beschäftige ich mich seit dem Aufkommen der LLM insbesondere mit rekursiven und selb-referentiellen Prompts um die „Kreativität“ der Maschine zu testen. Kleiner Spoiler: So gut sind sie dann doch nicht, wenn man ihnen mal die Aufgabe gibt wirklich ein „Kunstwerk“ zu entwickeln und nicht nur ein paar Ideen auszuspucken.