Hebb, SNARC i Perceptron Rosenblatta

🎯 Po co Ci to?

Neuron McCullocha–Pittsa z poprzedniej jednostki miał jedną poważną wadę: ktoś musiał ręcznie ustawić mu wagi i próg, żeby robił to, co trzeba. To wciąż był system zaprogramowany, nie uczący się. Prawdziwy przełom — który zbliża tę nogę AI do jej właściwej istoty — nastąpi dopiero, gdy ktoś zapyta: jak sprawić, żeby sieć sama modyfikowała swoje wagi na podstawie doświadczenia? W tej jednostce poznasz trzy odpowiedzi na to pytanie, powstałe w ciągu dziewięciu lat: teoretyczną regułę uczenia, pierwszą maszynę, która się uczyła, i pierwszy głośny medialnie „mózg elektroniczny".

✅ Czego się nauczysz

Po tej lekcji potrafisz:

sformułować regułę uczenia Hebba i wyjaśnić intuicję za nią stojącą;
opisać, czym była maszyna SNARC i dlaczego uznaje się ją za pierwszą samouczącą się maszynę;
wyjaśnić, jak działał Perceptron Rosenblatta i czym różnił się od neuronu McCullocha–Pittsa;
ocenić krytycznie medialny szum wokół Perceptronu z 1958 roku.

🔁 Przypomnij sobie

W jednostce 8.2 poznałeś neuron McCullocha–Pittsa: sumuje ważone sygnały wejściowe i porównuje je z progiem. Zapamiętaj kluczowe zastrzeżenie z tamtej jednostki: wagi tego neuronu są stałe, ustawione z góry przez projektanta. Wszystko, co poznasz teraz, to kolejne próby odpowiedzi na pytanie: jak sprawić, żeby te wagi zmieniały się same, na podstawie doświadczenia?

📘 Reguła Hebba — neurony, które razem „odpalają", łączą się mocniej

W 1949 roku kanadyjski psycholog Donald Hebb zaproponował w książce The Organization of Behavior prostą, ale genialną hipotezę na temat tego, jak mózg mógłby się uczyć na poziomie pojedynczych połączeń. Jego rozumowanie: nie wszystkie synapsy neuronu są sobie równe — niektóre są „silniejsze" niż inne, czyli łatwiej przekazują sygnał dalej. Hebb zasugerował, że siła synapsy zmienia się w zależności od tego, jak często jest używana.

💭 Pomyśl: Wyobraź sobie dwa neurony, A i B, które regularnie odpalają razem — za każdym razem, gdy A jest aktywny, chwilę później aktywny jest też B. Jak myślisz, co powinno się stać z siłą połączenia między nimi, żeby mózg „zapamiętał" ten wzorzec?

Sprawdź odpowiedź

Hebb zaproponował dokładnie to, czego intuicja się domaga: jeśli sygnał z A regularnie przyczynia się do odpalenia B, to połączenie między nimi powinno się wzmocnić — tak, żeby w przyszłości A jeszcze łatwiej pobudzało B. Zasadę tę streszcza się dziś krótkim hasłem: „neurons that fire together, wire together" — neurony, które odpalają razem, łączą się (przewodowo) razem. To pierwsza propozycja mechanizmu, dzięki któremu doświadczenie (powtarzające się wzorce aktywności) mogłoby fizycznie zmieniać strukturę sieci — czyli uczyć ją czegoś nowego.

📐 DEFINICJA — reguła Hebba (uczenie hebbowskie): zasada zaproponowana przez Donalda Hebba (1949), według której siła połączenia (synapsy) między dwoma neuronami rośnie, jeśli neurony te regularnie odpalają razem. Pierwszy mechanizm uczenia się na poziomie pojedynczego połączenia neuronowego.

Po ludzku: im częściej dwie rzeczy pojawiają się razem, tym silniej mózg (albo sztuczna sieć) kojarzy je ze sobą. Czym to NIE jest: to nie jest twierdzenie, że wystarczy jedno wspólne wystąpienie — chodzi o regularne, powtarzające się współwystępowanie, które stopniowo, krok po kroku, zmienia siłę połączenia.

📘 SNARC — pierwsza samoucząca się maszyna (1951)

Dwa lata po opublikowaniu reguły Hebba, dwaj studenci Uniwersytetu Harvarda — Marvin Minsky (którego jeszcze wielokrotnie spotkasz w tym dziale, choć w zupełnie innej roli) i Dean Edmonds — zbudowali maszynę, która faktycznie tę zasadę realizowała fizycznie. Nazwali ją SNARC (Stochastic Neural Analog Reinforcement Calculator).

SNARC składał się z czterdziestu sztucznych „neuronów" — całość zajmowała objętość dużego fortepianu i była zbudowana z rur próżniowych, silników elektrycznych, potencjometrów (regulatorów siły sygnału) oraz kondensatorów pełniących rolę „krótkotrwałej pamięci". Maszyna uczyła się przechodzić przez labirynt: gdy „nagrodzono" ją (naciśnięciem przycisku) za trafną reakcję, mechanizm fizycznie przekręcał potencjometry tych połączeń, które przed chwilą przewodziły sygnał — dosłownie wzmacniając je, zgodnie z zasadą Hebba.

Jeden „neuron" sieci SNARC — moduł z lampami próżniowymi, potencjometrem i mechanizmem sprzęgła. Czterdzieści takich modułów tworzyło całą maszynę

💭 Pomyśl: SNARC uczył się przez fizyczne przekręcanie pokręteł przez silnik elektryczny za każdym razem, gdy dostał „nagrodę". Czym różni się to od dzisiejszego trenowania sieci neuronowej na komputerze, w której „wagi" to po prostu liczby w pamięci?

Sprawdź odpowiedź

Zasada jest identyczna — zmiana siły połączenia w odpowiedzi na sygnał nagrody — ale nośnik jest zupełnie inny. SNARC realizował uczenie fizycznie i analogowo: siła połączenia była rzeczywistą pozycją pokrętła potencjometru, przekręcanego przez silnik elektryczny; „pamięć krótkotrwała" to fizyczny ładunek elektryczny w kondensatorze, który z czasem sam się rozładowywał. Dzisiejsze sieci neuronowe realizują dokładnie tę samą ideę cyfrowo: wagi to liczby zmiennoprzecinkowe w pamięci komputera, a „uczenie" to zmiana tych liczb przez program. Idea (wzmacniaj połączenia, które prowadzą do nagrody) jest ta sama od 1951 roku — zmienił się tylko nośnik fizyczny.

📘 Perceptron Rosenblatta (1958)

Siedem lat po SNARC amerykański psycholog Frank Rosenblatt zbudował maszynę, która przeszła do historii jako pierwszy głośny medialnie „mózg elektroniczny": Perceptron (a konkretnie jego sprzętowa wersja, Mark I Perceptron). Zaprojektowany był do rozpoznawania prostych obrazów o rozmiarze 20 na 20 pikseli — na przykład liter alfabetu.

Fizycznie Perceptron składał się z siatki 400 fotodetektorów (po jednym na każdy piksel obrazu 20×20), z których każdy „obserwował" jasność jednego punktu obrazu i przekształcał ją w sygnał elektryczny. Sygnały te były następnie ważone — każdemu przypisano wagę ustawianą przez potencjometr — i sumowane, dokładnie jak w neuronie McCullocha–Pittsa. Kluczowa różnica: Perceptron miał wbudowaną regułę uczenia. Gdy odpowiedź maszyny była błędna, silniki elektryczne automatycznie korygowały wagi w kierunku, który zmniejszał błąd przy następnej próbie.

💭 Pomyśl: Czym Perceptron różni się od neuronu McCullocha–Pittsa z jednostki 8.2, skoro oba sumują ważone sygnały i porównują z progiem?

Sprawdź odpowiedź

Strukturalnie oba działają podobnie — ale neuron McCullocha–Pittsa ma wagi ustalone raz na zawsze przez projektanta, natomiast Perceptron ma wagi, które same się dostrajają na podstawie błędów popełnianych podczas rozpoznawania obrazów. To dokładnie ta różnica, o której mówiliśmy na początku tej jednostki: przejście od systemu zaprogramowanego do systemu, który się uczy. Perceptron łączy więc architekturę McCullocha–Pittsa z regułą uczenia w duchu Hebba i SNARC.

📐 DEFINICJA — Perceptron: model sztucznego neuronu zaproponowany przez Franka Rosenblatta (1958), który — w odróżnieniu od neuronu McCullocha–Pittsa — automatycznie koryguje wagi swoich połączeń na podstawie popełnianych błędów, ucząc się w ten sposób rozpoznawać wzorce (np. obrazy).

Po ludzku: to pierwszy sztuczny neuron, który naprawdę „ćwiczy się" na przykładach, zamiast mieć wszystko ustawione z góry.

Konferencja prasowa zorganizowana w 1958 roku przez amerykańską marynarkę wojenną (finansującą projekt) wywołała gorączkę medialną: „New York Times" opisał Perceptron jako „zarodek komputera elektronicznego, który będzie w stanie chodzić, mówić, widzieć, pisać, reprodukować się i być świadomym swojego istnienia". To jedna z pierwszych — i najbardziej przesadzonych — fal hype'u wokół AI w historii.

⚠️ Uwaga, pułapka

Najczęstszy błąd: mylenie Perceptronu Rosenblatta z dzisiejszymi głębokimi sieciami neuronowymi albo wyobrażanie sobie, że rzeczywiście „widział" i „rozumiał" obrazy tak, jak sugerowały ówczesne nagłówki gazet. W rzeczywistości Mark I Perceptron potrafił nauczyć się odróżniać bardzo proste, dobrze odseparowane wzorce (np. litery narysowane wyraźnie w siatce 20×20) — nic więcej. Rozdźwięk między realnymi możliwościami a medialną narracją o „maszynie, która będzie świadoma" to wzorzec, który w historii AI powtórzy się jeszcze wielokrotnie (zobaczysz go znowu przy okazji Deep Blue i chatbotów w kolejnych działach) — i właśnie ten rozdźwięk, gdy zderzy się z twardą matematyką, doprowadzi w 1969 roku do poważnego kryzysu, o którym opowiada następna jednostka.

🌍 Powiązania

Trzy kroki tej jednostki — reguła Hebba, SNARC, Perceptron — pokazują narastającą komplikację jednego pomysłu: żeby maszyna się uczyła, jej połączenia muszą zmieniać siłę na podstawie doświadczenia. To dokładnie ta sama zasada, którą w Dziale 11 zobaczysz w dużo potężniejszej, matematycznie dopracowanej formie: propagacji wstecznej. Zanim jednak do niej dojdziesz, historia musi przejść przez poważny kryzys — bo w 1969 roku ktoś matematycznie udowodni, że Perceptron ma fundamentalne ograniczenie.

📐 Definicje tej lekcji

Reguła Hebba — siła połączenia między neuronami rośnie, gdy regularnie odpalają razem (Hebb, 1949).
SNARC — pierwsza fizyczna maszyna realizująca uczenie się przez wzmacnianie połączeń (Minsky i Edmonds, 1951).
Perceptron — sztuczny neuron, który automatycznie koryguje swoje wagi na podstawie błędów, ucząc się rozpoznawać wzorce (Rosenblatt, 1958).

📌 Najważniejsze w pigułce

Hebb (1949): neurony, które odpalają razem, wzmacniają połączenie między sobą — pierwszy teoretyczny mechanizm uczenia się sieci.
SNARC (1951, Minsky i Edmonds): pierwsza fizyczna maszyna, która uczyła się przechodzić przez labirynt metodą wzmacniania.
Perceptron (1958, Rosenblatt): pierwszy sztuczny neuron z wbudowaną regułą samodzielnego korygowania wag.
Medialny szum wokół Perceptronu znacznie wyprzedził jego realne możliwości.

🎒 Zadania

Zadanie 8.3.1. Wyjaśnij, dlaczego SNARC — mimo że dziś wygląda na prymitywne urządzenie wielkości fortepianu — jest uznawany za ważny krok w historii AI, a nie tylko za ciekawostkę techniczną.

Pokaż rozwiązanie

SNARC był pierwszą fizycznie zrealizowaną maszyną, w której zmiana siły połączeń — a więc uczenie się — zachodziła automatycznie, w reakcji na doświadczenie (nagrodę), a nie była ręcznie wpisywana przez projektanta. To pierwsze urzeczywistnienie zasady Hebba w metalu i szkle, zanim ktokolwiek zbudował nowoczesny komputer cyfrowy zdolny to symulować programowo. Wielkość i prymitywność urządzenia nie umniejsza znaczenia zasady, którą po raz pierwszy zademonstrowano — dokładnie tak, jak pierwszy prymitywny samolot braci Wright był ważny nie dlatego, że latał daleko, lecz dlatego, że w ogóle udowodnił, że kontrolowany lot maszyny cięższej od powietrza jest możliwy.

Zadanie 8.3.2. Porównaj neuron McCullocha–Pittsa (jednostka 8.2) i Perceptron Rosenblatta pod względem: (a) co obliczają, (b) skąd biorą się ich wagi. Wskaż jedno podobieństwo i jedną różnicę.

Pokaż rozwiązanie

Podobieństwo: oba sumują ważone sygnały wejściowe i porównują sumę z progiem, generując binarną odpowiedź (odpali / nie odpali). Różnica: wagi neuronu McCullocha–Pittsa są ustalane raz na zawsze przez projektanta sieci, natomiast wagi Perceptronu są automatycznie korygowane na podstawie popełnianych błędów — Perceptron się uczy, neuron McCullocha–Pittsa jest zaprogramowany na stałe. To właśnie ta różnica sprawia, że Perceptron, a nie neuron McCullocha–Pittsa, jest uznawany za bezpośredniego przodka dzisiejszych trenowanych sieci neuronowych.

Zadanie 8.3.3. Reakcja mediów na Perceptron w 1958 roku była entuzjastyczna i przesadzona. Podaj jeden powód, dla którego takie przesadzone oczekiwania mogą być szkodliwe dla samej dziedziny badań — nawet jeśli krótkoterminowo przynoszą jej rozgłos i finansowanie.

Sprawdź odpowiedź

Przesadzone oczekiwania tworzą lukę między tym, czego się oczekuje, a tym, co technologia realnie potrafi dostarczyć. Gdy ta luka staje się widoczna — bo maszyna nie „chodzi, nie mówi i nie jest świadoma swojego istnienia" — reakcją bywa gwałtowne rozczarowanie, cofnięcie finansowania i utrata zaufania do całej dziedziny, nie tylko do jednego konkretnego, przesadzonego twierdzenia. Zobaczysz dokładnie taki mechanizm w akcji w następnej jednostce: krytyka Minsky'ego i Paperta z 1969 roku spotka się z gruntem podatnym na rozczarowanie właśnie dlatego, że oczekiwania rozdmuchane w 1958 roku były nierealistyczne od samego początku.

🔍 Sprawdź, czy umiesz

[ ] Sformułować regułę Hebba i wyjaśnić jej intuicję.
[ ] Opisać, jak działał SNARC i dlaczego uznaje się go za pierwszą samouczącą się maszynę.
[ ] Wyjaśnić różnicę między neuronem McCullocha–Pittsa a Perceptronem Rosenblatta.
[ ] Ocenić krytycznie medialny szum wokół Perceptronu z 1958 roku.

Ucz się tej jednostki z asystentem