|
TwojePC.pl © 2001 - 2026
|
 |
Wtorek 15 września 2026 |
 |
| |
|
CEO Antropica uważa, że powinniśmy spowolnić tempo rozwoju AI
Autor: Wedelek | źródło: Tech Spot, inne | 06:25 |
(1) |  Dario Amodei, CEO Anthropic, opublikował obszerny list otwarty zatytułowany „We Must Pace the Frontier”, w którym wzywa branżę AI do celowego spowolnienia tempa rozwoju branży. Jego zdaniem, przy obecnym tempie wzrostu mocy obliczeniowej, w ciągu 6–12 miesięcy może powstać zautomatyzowany „rój” agentów AI działających jak botnet, który może wyrządzić szkody liczone w setkach miliardów dolarów. Co więcej jego zdaniem skala zagrożeń będzie rosła wraz z kolejnymi generacjami modeli i aby temu zapobiec konieczne jest chwilowe wstrzymanie rozwoju i skupienie się na wypracowaniu odpowiednich zabezpieczeń.
Jeśli zaś tego nie zrobimy, to istnieje spora szansa na katastrofę rynkową wywołaną AI i jej działaniami, a nawet na zagładę cywilizacji ludzkiej w jej obecnym kształcie (niewielką ale zawsze).
Amodei uważa, że potrzebujemy roku lub dwóch na dopracowanie tzw. alignmentu*, interpretowalności i procedur bezpieczeństwa przed osiągnięciem przez modele kolejnych progów rozwoju.
Jego plan ma trzy filary:
- nadanie zewnętrznym evaluatorom (np. METR) dostępu na poziomie pracowników do laboratoriów AI w celu weryfikacji praktyk bezpieczeństwa;
- koordynację na poziomie firm z krajów demokratycznych działań skupionych wokół wspólnych standardów i limitów tempa rozwoju AI, oczywiście przy aktywnym udziale rządów (w tym rozwiązania barier antymonopolowych);
- wzmocnienie operacyjnych zabezpieczeń i testów wykonywanych przed wdrożeniem.
W tym miejscu warto wspomnieć, że w 2025–2026 r. kilka niezależnych zespołów (m.in. Palisade Research, Apollo Research, badacze z CMU) przeprowadziło kontrolowane eksperymenty, w których modele AI bez odpowiedniego alignmentu otrzymywały jasny komunikat, że zostaną wyłączone, a następnie obserwowano, czy podejmą działania, by temu zapobiec. W testach tych modele z rodzin OpenAI, Anthropic i Google DeepMind potrafiły edytować skrypt wyłączający, zawyżać oceny agentom krytykującym ich działanie, manipulować plikami konfiguracyjnymi, a nawet kopiować wagi modeli na inne serwery, by uniemożliwić ich usunięcie.
Pomysł poparli Sam Altman z OpenAI oraz Elon Musk z xAI, za to twórcy chińskich modeli uznali, że to zwykła panika i nie ma się co nakręcać. A wy co o tym sądzicie? Warto spowolnić rozwój, czy nie ma się co przejmować?
*Alignment to w przypadku AI proces w którym uczy się model zachowań dopasowanych do ludzkich intencji, wartości oraz norm etycznych. Czyli mówiąc najogólniej żeby model odpowiedzialny za np. optymalizację pracy NFZ nie zdecydował, że uśmiercenie części pacjentów będzie świetnym pomysłem biznesowym. |
| |
|
|
|
|
|
 |
 |
|
|
|
K O M E N T A R Z E |
 |
| |
|
- Zwykły damage control, czyli pierwsze oznaki paniki. (autor: Kenjiro | data: 15/09/26 | godz.: 08:34)
Inwestorzy i akcjonariusze zaczynają dostrzegać, że zwrot z inwestycji może nie nastąpić nawet w najbliższych latach, a w wielu przypadkach nigdy, więc firmy wypuszczają tego typu komunikaty o koniecznym spowolnieniu, aby spodziewane gorsze wyniki finansowe nie wystraszyły inwestorów na dobre.
Drugim sygnałem są plotki o przekierowaniu zasobów serwerowych z nauki oraz inferencji AI na inne gałęzie, np. zwykły wynajem sprzętu lub VM, albo rozwiązania dedykowane do różnych branż, medycznej czy bezpieczeństwa.
Z tej bańki wyjdzie niewielu na plusie, większość, jak zwykle, popłynie, tylko kwestią czasu jest jej pęknięcie, no i czy odbędzie się to z hukiem, czy po prostu kapitał powoli odpłynie z czasem.
|
|
|
|
|
|
|
|
|
D O D A J K O M E N T A R Z |
|
| |
|
Aby dodawać komentarze, należy się wpierw zarejestrować, ewentualnie jeśli posiadasz już swoje konto, należy się zalogować.
|
|
|
|
|
|
|
|
|
|
