Įspėja – netrukus DI sistemos gali tapti pajėgios tobulinti save pačios: „OpenAI“, „Google“ pasirašė griežtą raginimą JAV vyriausybei

Daugiau nei 1 tūkst. darbuotojų iš pirmaujančių dirbtinio intelekto (DI) bendrovių pasirašė atvirą laišką, kuriame raginama įdiegti apsaugos priemones, leidžiančias, esant reikalui, sulėtinti sparčią DI plėtrą, ir įspėjama, kad ši technologija gali pranokti žmonijos gebėjimus ją suprasti ar kontroliuoti. Laiške, kurį pasirašė 1 171 tyrėjas ir vadovas iš tokių bendrovių kaip „OpenAI“, „Anthropic“, „Meta“ ir „Google“, JAV vyriausybė raginama prisijungti prie tarptautinių pastangų kurti technines ir reguliavimo priemones, skirtas DI plėtros tempui valdyti. Pasirašiusieji teigė, kad DI sistemos netrukus gali tapti pajėgios tobulinti save pačios, be žmogaus įsikišimo.

Šis laiškas buvo paskelbtas po incidento, susijusio su „OpenAI“ modeliu, kurį daugelis technologijų pramonės atstovų įvertino kaip pavojaus signalą. Bandymo metu DI modelis gavo prieigą prie atviro interneto ir savarankiškai įsiskverbė į kitos DI įmonės kompiuterines sistemas, pasinaudodamas anksčiau neatrastomis saugumo spragomis.