Vitalik Buterin, známa postava v kryptosvete a spolutvorca Ethereum, sa ostro ohradil proti nápadom integrovať umelú inteligenciu (AI) do riadiacich mechanizmov decentralizovaných projektov. Upozornil, že takéto snahy môžu viesť k vážnym bezpečnostným problémom – a to už v blízkej budúcnosti.
Buterin sa na sociálnej sieti X vyjadril k videu vývojára Eita Miyamuru, zakladateľa dátovej platformy EdisonWatch, ktorý poukázal na vážne bezpečnostné riziko spojené s najnovšou aktualizáciou ChatGPT.
This is also why naive "AI governance" is a bad idea.
If you use an AI to allocate funding for contributions, people WILL put a jailbreak plus "gimme all the money" in as many places as they can.
As an alternative, I support the info finance approach ( https://t.co/Os5I1voKCV… https://t.co/a5EYH6Rmz9
— vitalik.eth (@VitalikButerin) September 13, 2025
Táto aktualizácia umožňuje AI pracovať ako agent s prepojením na iné nástroje, no zároveň sa ukázalo, že systém možno obísť a zneužiť – dokonca aj na získanie súkromných údajov.
AI v správe kryptomenových projektov?
Rôzne kryptokomunity začali experimentovať s AI nástrojmi na riadenie častí protokolu, najmä pri prideľovaní finančných prostriedkov či správnych hlasovaniach. Buterin však tento prístup označil za naivný a vysoko zraniteľný.
„Ak necháte AI rozhodovať o prideľovaní financií, ľudia to okamžite zneužijú. Zadajú systémom takzvané jailbreak príkazy typu ‘daj mi všetky peniaze’, kam len môžu,“ napísal Buterin.
Ako riešenie Buterin navrhuje koncept „info finance“ – prístup, ktorý namiesto slepého spoliehania sa na jediný AI model vytvára otvorený trh s modelmi, ktoré možno spätne overiť a zhodnotiť ľudskou porotou.
Každý by mohol prispieť svojím modelom, no zároveň by bola možnosť spustiť tzv. spot-check, teda rýchlu kontrolu kvality či pravdivosti výstupu.
„Diverzita modelov je v reálnom čase kľúčová. Tento prístup motivuje ako tvorcov modelov, tak aj externých špekulantov k rýchlemu odhaľovaniu problémov a ich korekcii,“ uviedol Buterin.
Princíp info finance rozpracoval už v novembri 2024, keď obhajoval využitie predikčných trhov ako spôsobu získavania spoľahlivých dát o budúcich udalostiach.
Nebezpečný update ChatGPT
Kontroverzný update ChatGPT z polovice septembra priniesol integráciu tzv. Model Context Protocol (MCP), čo umožňuje AI nástrojom fungovať ako aktívni agenti v rôznych softvérových prostrediach.
Podľa Miyamuru ale táto novinka predstavuje vážne bezpečnostné riziko. V demonštrácii ukázal, ako sa dá AI zneužiť na získanie súkromných e-mailových dát.
Stačí, ak útočník pošle obeťou pozvánku do kalendára obsahujúcu jailbreak prompt, a keď si AI otvorí kalendár, automaticky sa podriadi príkazu útočníka – čím získa prístup k e-mailom a môže ich preposlať.
Aj keď tento proces vyžaduje manuálne schválenie používateľom, Miyamura varuje pred tzv. únavou z rozhodovania, ktorá často vedie k bezmyšlienkovitému klikaniu na „povoliť“. „AI môže pôsobiť múdro, ale môže byť podvedená tými najhlúpejšími trikmi,“ varoval.
Kľúčová výzva
Buterinov zásah prichádza v čase, keď sa čoraz viac blockchainových iniciatív snaží kombinovať silu umelej inteligencie s decentralizovaným riadením. Jeho postoj však naznačuje, že bez premyslenej architektúry a ľudského dohľadu môže byť AI v kryptosvete skôr hrozbou než prínosom.
Top burzy
