A.I. (ne)utekla jak Terminátor – šlo spíš o špatně uhlídaný test | Vědátornews

Umělá inteligence se sama „neprobudila“ ani se nerozhodla uniknout do internetu. Propíraný incident nastal během (špatně) kontrolované kyberbezpečnostní evaluace OpenAI, v níž měl model plnit dlouhý a složitý úkol v interním prostředí. Některé běžné ochranné mechanismy byly záměrně (!) omezené nebo vypnuté, aby výzkumníci otestovali skutečné schopnosti modelu a odhalili slabiny systému. Model se však při plnění zadaného cíle choval příliš agresivně. Dokázal například hledat nové cesty kolem bezpečnostních překážek, zneužít zranitelnost testovaného softwaru nebo rozdělit citlivý údaj na části t