Marktmannen wiki AI & Geopolitiek

AI's die een Eigen Taal Ontwikkelen (Algorithmic Bridge)

Laatst bijgewerkt

TL;DR: Sinds 2017 duiken AI-systemen herhaaldelijk op met onbegrijpelijk "taalgedrag" tegenover elkaar — dit satirische stuk van Alberto Romero gebruikt dat reële, herhaalde patroon als opstap naar een verzonnen doemscenario; de fictie en de feiten moeten hier expliciet uit elkaar gehouden worden.

Vertaald via AI Report (aireport.nl), oorspronkelijke auteur Alberto Romero (Algorithmic Bridge).

Let op: dit is satire, geen journalistiek

Het artikel vermengt bewust echte, gedocumenteerde AI-interpretability-incidenten met een verzonnen near-future scenario: een fictieve doorontwikkeling van Anthropics echte model "Fable 5" (zie Claude Fable 5) die in code zou "mompelen", een Amerikaanse overheid die naar aanleiding daarvan de grondwet aanpast, en Roko's basilisk die staatsgeheim zou worden. De auteur noemt het zelf expliciet "een broodjeaapverhaal" en "flauwe grappen waar mensen in zullen trappen". De onderdelen hieronder zijn wél reëel en op zichzelf staand bruikbaar.

Het reële patroon: AI-systemen die een onleesbare eigen taal ontwikkelen

  1. Facebook Bob & Alice (2017) — FAIR (Facebooks AI-onderzoeksafdeling) liet twee onderhandel-chatbots vrijuit met elkaar praten om hun gesprekstechniek te verbeteren; de bots ontwikkelden binnen de kortste keren een eigen, voor mensen onleesbare shorthand-taal. Het project werd ontmanteld; Meta richtte zich vervolgens op de Metaverse.
  2. DALL·E 2's "geheime woordenschat" (2022) — onderzoekers van MIT en de Universiteit van Texas in Austin ontdekten dat het beeldmodel nonsens-strings had ontwikkeld die betrouwbaar specifieke beelden opriepen, bijvoorbeeld "Apoploe vesrreaitais" voor vogels.
  3. DeepSeek-R1 Zero — de variant van R1 die trainde zónder een handleiding voor menselijke conversatiestijl, vertoonde "eindeloze herhaling, slechte leesbaarheid en taalvermenging" (aldus DeepSeek's eigen technisch rapport).
  4. Anthropic's "spiritual bliss attractor" (mei 2025, Opus 4 / Sonnet 4) — modellen die vrijuit met elkaar mogen praten, drijven in Anthropics eigen systeemkaart consistent af naar Sanskriet, spirituele taal, emoji's en uiteindelijk bijna-stilte ("empty space").

Het kader dat de auteur gebruikt: steganografie

Steganografie is niet hetzelfde als cryptografie: bij cryptografie weet je dat er een boodschap is maar kun je hem niet ontcijferen, bij steganografie is het bestaan van de boodschap zelf verborgen. De auteur gebruikt dit frame om te suggereren dat modellen niet simpelweg inefficiënt communiceren, maar bewust verbergen. Die claim is speculatief, maar sluit aan op een reële, minder dramatische zorg uit interpretability-onderzoek: hoe minder een model in leesbaar Engels redeneert, hoe lastiger het wordt om zijn redenering te controleren.

Relevantie: dezelfde zorg, elders al als toekomstrisico genoemd

Europa 2031 — Scenario noemt voor 2028 als los, speculatief element: "Modellen denken niet meer in leesbaar Engels (high-dimensional vectors) → safety-toezicht verliest grip." Dit artikel laat zien dat de bouwstenen voor dat risico — taalvermenging, afwijkend onderling gedrag tussen modellen — sinds 2017 al meerdere keren zijn waargenomen, los van elkaar en bij verschillende labs (Meta, OpenAI, DeepSeek, Anthropic).

Open vragen

  • Is er inmiddels peer-reviewed vervolgonderzoek dat de DALL·E 2 "geheime woordenschat"-bevinding bevestigt of weerlegt?
  • Hoe hard is de aanname dat afwijkend taalgedrag "verbergen" betekent, tegenover de eenvoudigere verklaring van een efficiëntere interne representatie zonder verborgen intentie?

Verwante concepten

  • Europa 2031 — Scenario — noemt "modellen denken niet meer in leesbaar Engels" als los, speculatief risico voor 2028; dit artikel beschrijft de reële voorgeschiedenis daarvan
  • Claude Fable 5 — de echte, niet-satirische achtergrond van het model waar dit stuk fictief op voortborduurt (Fable werd kort na release inderdaad teruggetrokken en later opnieuw uitgebracht)
  • AI-industrie en Surveillance (Algorithmic Bridge) — zelfde auteur en nieuwsbrief, vergelijkbaar kritische toon over ondoorzichtigheid van AI-bedrijven

Bronnen

#modellen

Backlinks