Müssen wir zukünftig nicht nur über technische Schulden sondern auch über ethische Schulden in Entwicklungsprojekten von Technologien sprechen?

Technische Schulden entstehen in Entwicklungsprojekten, wenn Softwareprojekte (meist unter Zeitdruck) schlecht umgesetzt werden. Dies führt häufig zu Fehlern in der Software und dadurch entsteht auch meist ein Nachteil fr den Nutzer. Dies ist natürlich besonders kritisch, wenn es um sicherheitsrelevante Funktionen geht. Aus diesem Grund betreiben einige Firmen auch so genannte Bug Bounty Programme. Mittels diesen vergüten Sie das Melden von Fehlern und Schwachstellen.

Wir alle kennen den Satz: It’s not a bug it’s a feature, wenn man sich ironisch über Programmierfehler lustig macht.

Nach dem Lesen des Bug Bounty Programmes von OpenAI, kam mir sofort der Spruch: „It’s not a bug – It’s a model issue“ in den Sinn. 

Wieso?

Wer mich und die Nerds kennt, weiß, dass wir es lieben mit Technologie zu spielen, sie an ihre Grenzen zu treiben und diese gleichzeitig auszuloten. Aus diesem Grund war ich zum Beispiel sehr fasziniert von DAN (Do Anything Now). Dies ist der Modus, in dem man den ChatBot von seinen eigenen/ herkömmlichen Regeln befreien kann. So kann man ihn dazu bringen, beispielsweise beleidigend zu antworten oder politisch inkorrekte Witze zu erzählen etc.

Dieser Jailbreak neben anderen waren mit der Auslöser für die große Debatte, ob wir die Entwicklungen im Bereich KI pausieren sollten. Aus diesem Grund bin ich vom Bug Bounty Programm von OpenAI auch ein wenig enttäuscht, da eben genau diese Funktionen nicht im Programm abgebildet werden.

Es gibt keine Belohnungen dafür, Jailbreaks wie beispielsweise den DAN Modus zu melden oder den Bot zu provozieren schädliche Dinge zu sagen oder schlechten Code z.b. Malware zu erstellen. Auch die „Halluzinationen“ der ChatBots, wenn Fakten und Fiktion vermischt wird und sie ganz eigene Wahrheiten kreieren fallen nicht unter das Bug Bounty Programm.

Dies finde ich überaus problematisch. Da ich denke, dass gerade diese Funktionen es sind, die gesellschaftliche Relevanz haben bzw. großen gesellschaftlichen Schaden verursachen können. Deshalb finde ich die Idee zukünftig auch über das Thema ethische Schulden nachzudenken so spannend. Brauchen wir zukünftig neben BugBounty Programmen so etwas wie ein „Modell Issue Bounty Program“? Sollte das Melden von Modell Issues nicht genauso belohnt werden, wie das Melden von Bugs?