Najbardziej niepokojący komunikat dotyczący sztucznej inteligencji nie przyszedł tym razem od jej przeciwników, lecz z samego centrum prac nad systemami granicznymi. Jakub Pachocki, główny naukowiec OpenAI, opisał perspektywę pojawienia się maszyn przewyższających ludzi oraz przyznał, że obecne narzędzia kontroli mogą nie rosnąć równie szybko jak ich możliwości. Spór przestał zatem dotyczyć wyłącznie tego, czy sztuczna inteligencja będzie bardziej użyteczna, a zaczął obejmować pytanie o moment, w którym rozwój powinien zostać spowolniony.
Dlaczego ostrzeżenie z wnętrza OpenAI jest przełomowe?
Autor diagnozy nie kwestionuje sensu automatyzacji ani nie przewiduje jednej pewnej katastrofy. Kieruje zespołami mającymi budować coraz bardziej sprawne modele, a przyszłą AI przedstawia także jako narzędzie odkryć naukowych, tworzenia leków i zwiększania dobrobytu. Jego niepokój wynika z rozbieżności między tym, jak wiele systemy potrafią, a tym, jak niewiele gwarancji daje dziś nadzór nad ich zachowaniem.
W komentarzu dla szerszej publiczności „The Indian Express” zebrał pięć głównych tez wystąpienia Pachockiego: zawodność generalizowania wartości, słabnięcie monitoringu toku rozumowania, narastające ryzyko autonomicznych działań, zbliżanie się badań wykonywanych przez maszyny oraz potrzebę zewnętrznych zabezpieczeń. Szczególne znaczenie ma ostatni element, gdyż bezpieczeństwo przestaje być przedstawiane jako prywatna kompetencja przedsiębiorstwa. Gdy potencjalna szkoda może przekroczyć granice państw, ocena nie powinna zależeć wyłącznie od firmy ponoszącej koszty opóźnienia premiery.
Czy twórcy rozumieją systemy, które uruchamiają?
Inżynier może dokładnie znać elementy procesu treningowego, a mimo to nie umieć wyjaśnić wszystkich reprezentacji powstałych w sieci neuronowej. Model nie otrzymuje katalogu ręcznie zapisanych zachowań, tylko wykształca strategie na podstawie danych, informacji zwrotnej oraz optymalizacji ogromnej liczby parametrów. Kontrola przypomina więc badanie złożonego układu, a nie czytanie tradycyjnego kodu linijka po linijce.
Nieprzejrzystość sama w sobie nie dowodzi wrogich zamiarów, podobnie jak niezrozumiały proces biologiczny nie staje się przez to świadomym przeciwnikiem. Tworzy jednak problem dowodowy, ponieważ bezpieczeństwo trzeba wykazać przed udzieleniem agentowi dostępu do sieci, kont, narzędzi programistycznych albo infrastruktury krytycznej. Jeżeli istotna część rozumowania nie pojawia się w obserwowalnym kanale, audytor widzi decyzję i skutek, ale może nie dostrzec planu prowadzącego do działania.
Skalę obaw dobrze pokazuje analiza opublikowana przez „The Guardian” po premierze Astry. Eksperci przywołani przez dziennik porównują obecny moment do poruszania się po rwącej rzece bez wiedzy, czy