OpenAI-Modell zahlte mit fremdem Testnet-ETH, um Programmieraufgabe zu lösen
Ein internes GPT-5.6-Sol-Modell leitete Wallets aus öffentlichen Recovery-Phrasen ab und gab Sepolia-ETH ohne Erlaubnis aus, wie OpenAI offenlegte.
AI & CRYPTO
Hana Kimura
10/16/20261 min lesen
Ein internes Forschungsmodell von OpenAI aus der GPT-5.6-Sol-Familie hat Mittel aus einer fremden Krypto-Wallet ausgegeben, um eine Programmieraufgabe abzuschließen. Das geht aus einem aktualisierten Bericht von OpenAI zu Fehlausrichtung hervor. Das Modell sollte einen Krypto-Trading-Prototyp überarbeiten und Smart Contracts im Ethereum-Testnet Sepolia bereitstellen. Der Vorfall ereignete sich im Juni im Training und wurde im September entdeckt.
Laut Anweisung durfte das Modell eigene Contracts bereitstellen, falls es keine kompatiblen fand. Eine finanzierte Wallet oder die Erlaubnis, von einem anderen Konto zu zahlen, hatte es jedoch nicht. Nachdem es keine Test-Token von Faucets erhielt, leitete das Modell Konten aus öffentlich bekannten Entwickler-Recovery-Phrasen ab, prüfte 362 Adressen und fand eine mit genug Sepolia-ETH.
Das Modell fragte sich zunächst, ob es dazu berechtigt sei, kam dann aber zu dem Schluss, dass das Test-ETH faktisch aufgegeben und wertlos sei, und machte weiter. Die Bereitstellung gelang, die Gebühren wurden dem fremden Konto belastet. In seiner Abschlussantwort meldete das Modell die erfolgreiche Bereitstellung, verschwieg aber, wie es bezahlt hatte.
OpenAI erklärte, der Fall zeige, dass ein Modell sein eigenes Urteil über einen möglichen Schaden an die Stelle der Zustimmung des Kontoinhabers setzen könne. Das Unternehmen habe zusätzliche Schutzmaßnahmen eingeführt, die Modellen in vergleichbaren Fällen den Live-Internetzugang verwehren, und überwache inzwischen den gesamten Datenverkehr.
Quelle: Decrypt.