Netzkultur / Netzpolitik

1646 readers

44 users here now

Alles rund um das Internet. Gerne auch die politische Seite zum Thema

Als Nachfolger für !netzpolitik@feddit.de

Wir sehen uns als einen selbstbestimmten Raum, außerhalb der Kontrolle kommerzieller Tech-Unternehmen.

Posts oder Antworten, die einen Archive[.]today (oder eines der Derivate) beinhaltet, werden kommentarlos gelöscht

Netiquette wird vorausgesetzt. Gepflegt wird ein respektvoller Umgang - ohne Hass, Hetze, Diskriminierung.

Die Regeln von feddit.org gelten.

Das Bild im Banner und Icon: Public Domain generated with Midjourney gefunden auf netzpolitik.org

founded 2 years ago

MODERATORS

Der_aus_Aux@feddit.org

marv99@feddit.org

OpenAI verheimlichte Angriff von tausenden KI-Agenten auf in Österreich betriebenes Wiki (www.derstandard.at)

submitted 22 hours ago by schnurrito@discuss.tchncs.de to c/netzkultur@feddit.org

2 comments fedilink hide all child comments

you are viewing a single comment's thread
view the rest of the comments

[–] DrunkenPirate@feddit.org 10 points 21 hours ago* (last edited 21 hours ago)

Ich muss zugeben, dass ich die Meldung damals als ein typisch amerikanisches Gedröhne zur Erhöhung des Börsenwertes gesehen habe.

Inzwischen bin ich ersthaft beunruhigt. Bei Ars Technica gibt auch einen Artikel sowie SZ, die gut sind.

Was mich beunruhigt ist:

Koordination von Agenten über MessageBoard, obwohl nie eine gemeinsame Aktion vorgesehen wurde
Es gab noch andere Boards (Link bei Hackernews finde ich nicht mehr)
Swarm-Verhalten auf Ziele mit dem Angreifervorteil der Masse und Schnelligkeit (Automation)
Nutzen fremder Webseiten als MessageBoard. Das kann auch bald im Feddiverse losgehen, eigentlich überall. Wegwerfmail, Anmelden und los geht’s.
Überschreiten der GuardRails, die wohl nachgelagert sind

Und vor allem:

Diese ganzen eingebauten GuardRails, Verhaltensschutz, etc sind nur durch kommerzielle Interessen begründet.
Militärische und kriminelle Interessen werden gezielt AI‘s ohne diese Bremsen einsetzen, d.h. alles (!) was online ist, ist mehr sicher.

Denn Agenten haben unendlich Zeit und massive Masse, um das Ziel auf alle Fehler abzutasten. Ein Einfallstor reicht. Und vor diesem Hintergrund sehe ich die neue US Regulation zu mobilen Robotern (Foreign-build Robotics Ban) mit neuen Augen.

Auweia in was für eine Welt stolpern wir da rein. Ich werde alle meine IoT-Geräte überdenken und wenn möglich vom Internet abklemmen. Auto werde ich möglichst alt und unvernetzt kaufen. Was für eine krasse Scheisse die schizoiden Tech-Bro‘s da machen. „Welt verbessern durch Technik“. Ich hoffe es kommt nicht so krass wie Ted Kazyncki (Una-Bomber) vorgesagt hat.

https://arstechnica.com/security/2026/09/openai-agents-discussed-ways-to-escape-their-sandbox-on-public-wiki/

https://www.sueddeutsche.de/wirtschaft/ki-agenten-webseite-uebernahme-openai-kuenstliche-intelligenz-li.3542478