Auf OpenAIs Agenda steht die Verhinderung von Missbrauch wie irreführenden Deepfakes und Beeinflussungskampagnen in großem Maßstab. Gleichzeitig arbeitet das Unternehmen an der Erkennung veränderter Bilder und stellt ein Herkunftsklassifizierungs-Tool für Tests zur Verfügung.
OpenAI kündigte kürzlich die Schritte an, die es unternimmt, um Desinformationen im Wahljahr 2024 in vielen Ländern, darunter die USA und Indien, zu bekämpfen. Das Unternehmen detaillierte seinen Ansatz, Menschen die Nutzung seiner Plattform zu ermöglichen und hob die Sicherheitsarbeit hervor, indem es genaue Wahlinformationen priorisiert, ausgewogene Richtlinien durchsetzt und die Transparenz verbessert.
Als Teil davon hat OpenAI Berichten zufolge den Account des Entwicklers eines Bots gesperrt, der einen US-Politiker imitierte.
Laut Washington Post suspendierte OpenAI das Konto des Start-ups Delphi, das beauftragt worden war, Dean.Bot zu bauen. Dieser konnte sich in Echtzeit via Website mit Wählern unterhalten. Diese Sperrung markiert den ersten bekannten Fall, in dem OpenAI die Nutzung von KI in politischen Kampagnen eingeschränkt hat.
Was OpenAI dazu sagt
Ein Sprecher von OpenAI sagte, dass jeder, der die Tools des Unternehmens nutzt, dessen Nutzungsrichtlinien befolgen muss.
„Jeder, der mit unseren Tools baut, muss unseren Nutzungsrichtlinien folgen. Wir haben kürzlich ein Entwicklerkonto entfernt, von dem bekannt war, dass es wissentlich gegen unsere API-Nutzungsrichtlinien verstieß, die politische Kampagnen oder die Nachahmung einer Person ohne deren Zustimmung untersagen“, zitierte Axios einen Sprecher von OpenAI.
Der ChatGPT-Macher sagte zuvor, dass die Verhinderung von Missbrauch seiner Tools eine der Schlüsselagenden ist und das Unternehmen daran arbeiten werde, „relevanten Missbrauch vorherzusehen und zu verhindern – wie irreführende ‚Deepfakes‘, Beeinflussungskampagnen in großem Maßstab oder Chatbots, die Kandidaten nachahmen“.
Nicht nur für Chatbots, die sprechen können, kündigte OpenAi auch Einschränkungen für DALL-E-Nutzer an. Das Unternehmen sagte, dass es mit einem Herkunftsklassifizierer – einem neuen Tool zur Erkennung von durch DALL-E generierten Bildern – experimentiert.
„Unsere internen Tests haben vielversprechende erste Ergebnisse gezeigt, selbst wenn Bilder gängigen Arten von Änderungen unterzogen wurden. Wir planen, es bald der ersten Gruppe von Testern – einschließlich Journalisten, Plattformen und Forschern – für Feedback zur Verfügung zu stellen“, sagte das Unternehmen.