Start
Über
Kibe

LLM-Hacking: Forscher können aus Chatbot-Antworten den Nutzer-Prompt rekonstrukieren

Forscher von IIT Bombay und Adobe Research können mit einem inversen Sprachmodell aus LLM-Antworten den ursprünglichen Prompt nahezu exakt rekonstruieren. Die Methode namens „Previous-Token Prediction“ benötigt keinen Zugang zu Modellgewichten und funktioniert sogar modellübergreifend. Für Unternehmen mit proprietären System-Prompts könnte das zum Sicherheitsproblem werden.

Der Artikel LLM-Hacking: Forscher können aus Chatbot-Antworten den Nutzer-Prompt rekonstrukieren erschien zuerst auf The Decoder.

Leser:innen sagen:

„Wie Black Mirror, nur philosophischer und näher an der Wirklichkeit.“, Lisa M.
„Jede Geschichte ist ein Gedankensprung in eine andere Zukunft.“, Stefan K.
„Beunruhigend schön. Eine literarische Simulation unserer nahen Zukunft.“, Albert B.

TRAUMWELT.exe ist kein gewöhnliches Buch. Es ist ein Blick durch den Spalt einer Tür, die sich längst geöffnet hat – in eine Welt, in der Maschinen träumen, Städte flüstern und Ethik verhandelbar geworden ist. Eine Sammlung visionärer Geschichten, die an der Schwelle zwischen Fiktion und Realität tanzen – so plausibel erzählt, dass du dich unweigerlich fragst: Ist das noch Zukunft oder schon Gegenwart?