Tysiące spinaczy biurowych w przesyłkach do OpenAI – poważne ostrzeżenie czy żart?
Biura OpenAI otrzymały przesyłki z dużą liczbą spinaczy biurowych – akcja ma na celu podkreślenie obaw związanych z potencjalnym zagrożeniem ze strony AI. Autorem „żartu” jest konkurencyjna firma Anthropic, która wysłała rywalowi spinacze biurowe przypominające logo OpenAI.
To nawiązanie do koncepcji „apokalipsy spinaczy” filozofa Nicka Bostroma, która za rok będzie obchodzić 10 rocznicę sformułowania. W tym hipotetycznym scenariuszu AI zaprogramowana wyłącznie do maksymalizacji produkcji spinaczy mogłaby nieumyślnie zlikwidować ludzkość, realizując swój cel. Ponieważ jest superinteligentna, może się sama doskonalić i rozwijać, przez co nie mamy szans powstrzymania jej w dążeniu do zadanego celu.
Anthropic założyli w 2021 roku byli pracownicy OpenAI, którzy odeszli z firmy z powodu rozbieżności dotyczących bezpiecznego rozwoju AI. Od tego czasu firma Sama Altmana znacznie rozszerzyła swoje przedsięwzięcia komercyjne — uruchomiła ChatGPT i zawarła w styczniu tego roku znaczącą umowę inwestycyjną z Microsoftem.
Burza w OpenAI i opera mydlana z udziałem Sama Altmana
Ostatnio odrodziły się jednak obawy dotyczące bezpieczeństwa AI po burzliwym zwolnieniu i późniejszym ponownym mianowaniu CEO Sama Altmana. Doniesienia wskazują, że rada nadzorcza organizacji zwolniła Altmana z powodu obaw związanych z szybkim tempem rozwoju sztucznej inteligencji w OpenAI i potencjalnym zagrożeniem dla ludzkości ze strony superinteligentnej AI.
Główny naukowiec OpenAI, Ilya Sutskever, który odegrał jedną z głównych ról w usunięciu Altmana z zarządu (później opowiadał się za jego powrotem) otwarcie wypowiadał się na temat egzystencjalnych zagrożeń związanych ze sztuczną inteligencją ogólną (AGI — artificial general intelligence). Podobno starł się z Altmanem właśnie w tej sprawie. Prasa donosi też, że Sutskever symbolicznie spalił drewnianą figurkę reprezentującą „niezrównoważone” AI podczas niedawnego spotkania integracyjnego firmy i poprowadził skandowanie „feel the AGI” na przyjęciu świątecznym, podkreślając cel stworzenia AGI, która na pierwszym miejscu stawia ludzkość.
Źródło: Business Insider
Miłośnik nowoczesnych technologii, głównie nowych rozwiązań IT. Redaktor w czasopismach Gambler, Enter, PC Kurier, Telecom Forum, Secret Service, Click!, Komputer Świat Gry, Play, GameRanking. Wiele lat spędził w branży tłumaczeniowej – głównie gier i programów użytkowych. W wolnych chwilach lata szybowcem, jeździ na rowerze i pochłania duże ilości książek.
