Schlagwort: LLMs

  • KI deckt reale Namen von anonymen Foren-Nutzern auf

    Ein Forumsbeitrag und ein Mr X

    Nano Banana

    Kurzfassung
    ▾

    Quellen
    ▾

    Forscher der ETH Zürich und Anthropic haben eine Methode entwickelt, mit der KI pseudonyme Internetnutzer enttarnt.
    Die Sprachmodelle analysieren dafür unstrukturierte Texte wie Forenbeiträge und ziehen logische Rückschlüsse auf Wohnort oder Hobbys.
    Dieser automatisierte Datenabgleich deckt die wahre Identität der Nutzer in wenigen Minuten auf und kostet pro Profil nur einige Dollar.
    Die Studie verdeutlicht, dass einfache Pseudonyme keinen ausreichenden Schutz mehr vor der Analysekapazität moderner Textgeneratoren bieten.

    arXiv Abstract – Large-scale online deanonymization with LLMs

    PDF – Large-scale online deanonymization with LLMs

    MATS Research – Large-scale online deanonymization with LLMs

    Forscher der ETH Zürich und des Unternehmens Anthropic haben eine Methode demonstriert, mit der künstliche Intelligenz pseudonyme Online-Profile entschlüsselt. Große Sprachmodelle analysieren dafür gewöhnliche Forenbeiträge und decken die wahre Identität der Verfasser für einen geringen Dollarbetrag vollautomatisiert auf. Anzeige Puzzle aus unstrukturierten Texten Die Technologie nutzt das sogenannte Reasoning aktueller Sprachmodelle, um logische Schlüsse aus großen Textmengen zu ziehen. Das System durchsucht Kommentarspalten nach scheinbar unbedeutenden Details. Neben direkten Hinweisen wie Alter oder Geschlecht erkennt die KI auch subtile und versteckte Informationen. Erwähnt ein Nutzer beispielsweise einen lokalen Feiertag oder beschreibt das aktuelle Wetter in einem Nebensatz, grenzt das Modell den Wohnort bereits ein. Sprachliche Eigenheiten, Nischen-Hobbys oder berufliche Anekdoten vervollständigen das Bild Schritt für Schritt. Die KI extrahiert diese unstrukturierten Datenpunkte aus hunderten Kommentaren und formt daraus ein hochpräzises Profil der Zielperson. Dieser Vorgang erforderte früher einen hohen manuellen Aufwand durch menschliche Analysten. Die LLMs übernehmen diese Detektivarbeit nun komplett eigenständig, ohne dass der Nutzer davon etwas bemerkt. + + Quelle: https://arxiv.org/pdf/2602.16800 Skalierbare Analyse über APIs Im nächsten Schritt gleichen die Modelle das erstellte Profil mit externen Informationen ab. Sie nutzen öffentliche APIs und Schnittstellen zu Suchmaschinen, um die gesammelten Merkmale mit Vereinsregistern, Zeitungsartikeln oder professionellen Netzwerken zu verknüpfen. Durch diesen automatisierten Abgleich schrumpft die Liste der potenziellen Personen schnell zusammen. Oft bleibt am Ende nur eine einzige reale Person übrig. Der finanzielle Aufwand für einen solchen Angriff fällt extrem gering aus. Die Enttarnung eines einzelnen Nutzers kostet bei der Verwendung kommerzieller Schnittstellen nur wenige Dollar. Die eigentliche Berechnung dauert dabei lediglich einige Minuten. Die Methode funktioniert mit den etablierten KI-Diensten und erfordert keine tiefergehenden Programmierkenntnisse. Das macht die Technik für eine breite Masse zugänglich. Besonders für Personen, die auf Anonymität angewiesen sind, entsteht dadurch ein konkretes Risiko. Whistleblower oder Aktivisten laufen Gefahr, durch ihre vergangenen Textbeiträge nachträglich identifiziert zu werden. Sicherheitsforscher stehen nun vor der Aufgabe, neuartige Schutzmechanismen zu entwickeln, um persönliche Daten vor diesen automatisierten Analysen zu verbergen. Anzeige

  • Yann LeCun und Deepmind-Forscher streiten über LLMs als Weg zur allgemeinen Intelligenz

    In einer Debatte mit dem Deepmind-Forscher Adam Brown erklärt Meta-Chef-KI-Wissenschaftler Yann LeCun, warum Large Language Models (LLMs) eine Sackgasse auf dem Weg zu menschenähnlicher Intelligenz sind. Das fundamentale Problem liege in der Art und Weise, wie diese Modelle Vorhersagen treffen. Während Large Language Models (LLMs) wie ChatGPT oder Gemini derzeit die Diskussion über künstliche Intelligenz […]

    Der Artikel Yann LeCun und Deepmind-Forscher streiten über LLMs als Weg zur allgemeinen Intelligenz erschien zuerst auf The Decoder.

  • Der „Charakter“ von GPT-4o kommt nicht zurück, weil er zufällig entstanden ist

    Ein als „Roon“ auf X bekannter OpenAI-Entwickler erklärt, warum der „Charakter“ eines LLMs nicht reproduzierbar ist.

    Der Artikel Der „Charakter“ von GPT-4o kommt nicht zurück, weil er zufällig entstanden ist erschien zuerst auf The Decoder.

  • Mistral AI veröffentlicht erste umfassende Umweltbilanz eines KI-Modells

    Abstraktes Kachelmuster aus orangen „M“-förmigen Pixelblöcken mit digitalem Glitch-Effekt auf weißem Hintergrund.

    Mistral AI hat die erste vollständige Lebenszyklusanalyse eines LLMs durchgeführt. Die Studie soll neue Transparenzstandards für die Branche setzen.

    Der Artikel Mistral AI veröffentlicht erste umfassende Umweltbilanz eines KI-Modells erschien zuerst auf THE-DECODER.de.

  • Forschende haben womöglich eine Leiter für die „Datenmauer“ gefunden

    Person auf Leiter vor Wand mit Binärcode (Nullen und Einsen) auf digitalem Rasterboden.

    Eine MIT-Forschungsgruppe hat ein Framework namens SEAL entwickelt, mit dem LLMs eigenständig synthetische Trainingsdaten generieren und sich damit selbst optimieren können.

    Der Artikel Forschende haben womöglich eine Leiter für die „Datenmauer“ gefunden erschien zuerst auf THE-DECODER.de.