<\/p>\n\n\n\n
W firmie Cogita wierzymy, \u017ce sztuczna inteligencja nowej generacji powinna by\u0107 bardziej modu\u0142owa, wyspecjalizowana, wydajna, podlegaj\u0105ca audytowi i \u0142atwiejsza do debugowania \u2014 a nie po prostu wi\u0119ksza i mniej przejrzysta. Osi\u0105gni\u0119cie tego celu wymaga po\u0142\u0105czenia praktycznych wdro\u017ce\u0144 z podstawowymi badaniami nad tym, w jaki spos\u00f3b sieci neuronowe reprezentuj\u0105 i wykorzystuj\u0105 informacje.<\/p>\n\n\n\n
W poni\u017cszym artykule nasz kierownik ds. sztucznej inteligencji, Maciej Satkiewicz, przedstawia \u201esemantyczne cofni\u0119cia\u201d (Semantic Pullbacks) \u2013 nowe podej\u015bcie do zrozumienia g\u0142\u0119bokich sieci neuronowych, opracowane w ramach jego bada\u0144 prowadzonych w Fundacji 314. Praca ta stanowi wczesny przyk\u0142ad pomostu, jaki chcemy zbudowa\u0107 mi\u0119dzy badaniami podstawowymi a systemami sztucznej inteligencji, kt\u00f3re mo\u017cna analizowa\u0107, ulepsza\u0107 i wdra\u017ca\u0107 w praktyce.<\/p>\n\n\n\n
Uwa\u017camy, \u017ce tego rodzaju zr\u00f3\u017cnicowanie techniczne ma szczeg\u00f3lne znaczenie dla Europy, kt\u00f3ra by\u0107 mo\u017ce powinna poszukiwa\u0107 nowych kierunk\u00f3w rozwoju, zamiast konkurowa\u0107 wy\u0142\u0105cznie poprzez skalowanie rozwi\u0105za\u0144 opracowanych w Stanach Zjednoczonych i Chinach. Artyku\u0142 ma charakter techniczny, ale szersze pytanie jest proste: czy potrafimy stworzy\u0107 sztuczn\u0105 inteligencj\u0119, kt\u00f3ra b\u0119dzie nie tylko pot\u0119\u017cna, ale tak\u017ce bardziej zrozumia\u0142a i \u0142atwiejsza do kontrolowania?<\/p>\n\n\n\n
G\u0142\u0119bokie sieci neuronowe s\u0105 pot\u0119\u017cnym narz\u0119dziem, ale wci\u0105\u017c trudno je zrozumie\u0107. Mo\u017cemy je trenowa\u0107, wdra\u017ca\u0107, dostraja\u0107 i mierzy\u0107 ich wydajno\u015b\u0107. Jednak gdy zadamy proste pytanie \u2013 Co dok\u0142adnie wp\u0142yn\u0119\u0142o na decyzj\u0119 dotycz\u0105c\u0105 modelu?<\/em> - odpowied\u017a jest cz\u0119sto zaskakuj\u0105co krucha. <\/p>\n\n\n\n W modelu liniowym wyja\u015bnienie jest oczywiste. Wektor wag wskazuje preferowany przez model kierunek danych wej\u015bciowych. Je\u015bli wyobrazimy sobie ten wektor, zobaczymy, czego szuka model. Model oblicza iloczyn skalarny mi\u0119dzy danymi wej\u015bciowymi a wektorem wag, wi\u0119c wektor wag bezpo\u015brednio wskazuje nam, kt\u00f3ry wz\u00f3r zwi\u0119ksza wynik.<\/p>\n\n\n\n Pytanie brzmi: jak przenie\u015b\u0107 ten styl wyja\u015bnie\u0144 na bardziej z\u0142o\u017cone modele?<\/p>\n\n\n\n Powszechnie stosowanym podej\u015bciem jest wykorzystanie gradientu, poniewa\u017c pokrywa si\u0119 on z wektorem wag w modelach liniowych. Istnieje jednak bardziej naturalna alternatywa \u2013 pullback.<\/p>\n\n\n\n Gradient informuje nas, jak zmienia si\u0119 warto\u015b\u0107 wyj\u015bciowa przy niesko\u0144czenie ma\u0142ej zmianie warto\u015bci wej\u015bciowej. Jest to miara wra\u017cliwo\u015bci. Niekoniecznie jednak stanowi to najlepszy opis tego, czego oczekuje neuron. Taki opis powinien w idealnym przypadku wskazywa\u0107, jaki wz\u00f3r w przestrzeni wej\u015bciowej neuron lokalnie traktuje jako sw\u00f3j preferowany kierunek, podobnie jak wektor wag w modelu liniowym.<\/p>\n\n\n\n Nale\u017cy zauwa\u017cy\u0107, \u017ce dla danego sygna\u0142u wej\u015bciowego wiele warstw zachowuje si\u0119 tak, jakby operatory afine uwarunkowane danymi wej\u015bciowymi<\/strong>. Bramki ReLU w\u0142\u0105czaj\u0105 si\u0119 i wy\u0142\u0105czaj\u0105. Warstwy agreguj\u0105ce wybieraj\u0105 \u015bcie\u017cki. Warstwy uwagi wybieraj\u0105 tokeny, kt\u00f3re maj\u0105 ze sob\u0105 wsp\u00f3\u0142dzia\u0142a\u0107. Warstwy normalizuj\u0105ce zmieniaj\u0105 lokaln\u0105 geometri\u0119 oblicze\u0144. Jednak dla danego sygna\u0142u wej\u015bciowego wszystkie te prze\u0142\u0105czniki maj\u0105 sta\u0142e ustawienia.<\/p>\n\n\n\n W zwi\u0105zku z tym sie\u0107 mo\u017cna postrzega\u0107 jako obliczenie liniowe (lub afi\u0144skie, w przypadku obecno\u015bci przesuni\u0119\u0107) zale\u017cne od danych wej\u015bciowych. Naturalnym wyja\u015bnieniem dzia\u0142ania neuronu docelowego nie jest zatem gradient, lecz punktowa transpozycja tego operatora efektywnego, tj. jego dzia\u0142anie sprz\u0119\u017cone. To w\u0142a\u015bnie nazywam cofni\u0119cie<\/strong>, zainspirowane geometri\u0105 r\u00f3\u017cniczkow\u0105.<\/p>\n\n\n\n W modelu liniowym mamy:<\/p>\n\n\n\n wynik =<\/mark><\/p>\n\n\n\n Wektor wagowy stanowi wyja\u015bnienie, poniewa\u017c odzwierciedla preferowany przez model kierunek danych wej\u015bciowych.<\/p>\n\n\n\n W przypadku sieci g\u0142\u0119bokiej, przy sta\u0142ym wej\u015bciu, obliczenia mo\u017cna cz\u0119sto zapisa\u0107 lokalnie w nast\u0119puj\u0105cy spos\u00f3b:<\/p>\n\n\n\n wynik = W(x) x<\/mark><\/p>\n\n\n\n gdzie W(x)<\/mark> jest efektywnym dynamicznym operatorem afinicznym sieci na wej\u015bciu x<\/mark>.<\/p>\n\n\n\n Je\u015bli wybierzemy neuron docelowy lub kierunek klasy u, to jego wynik mo\u017cna przedstawi\u0107 jako iloczyn skalarny w przestrzeni wej\u015bciowej:<\/p>\n\n\n\n wynik =<\/mark><\/p>\n\n\n\n Odwr\u00f3cenie uzyskuje si\u0119 poprzez przeniesienie kierunku docelowego do ty\u0142u za pomoc\u0105 transpozycji operatora efektywnego:<\/p>\n\n\n\n pullback = W(x)^T u<\/mark><\/p>\n\n\n\n Jest to bezpo\u015brednie uog\u00f3lnienie wyja\u015bnienia opartego na modelu liniowym.<\/p>\n\n\n\n Kluczowa kwestia jest subtelna, ale istotna: cofni\u0119cie nie jest zazwyczaj to samo, co nachylenie.<\/p>\n\n\n\n Gradient odzwierciedla spos\u00f3b, w jaki operator efektywny zmienia si\u0119 w zale\u017cno\u015bci od danych wej\u015bciowych. Obejmuje on dodatkowe sk\u0142adniki wynikaj\u0105ce z bramek, decyzji dotycz\u0105cych routingu, statystyk warstw, map uwagi oraz innych mechanizm\u00f3w zale\u017cnych od danych wej\u015bciowych.<\/p>\n\n\n\n Krok wstecz dzia\u0142a nieco inaczej. Zadaje pytanie: bior\u0105c pod uwag\u0119 obliczenia, kt\u00f3re sie\u0107 faktycznie zastosowa\u0142a dla tego wk\u0142adu, jaki wektor przestrzeni wk\u0142ad\u00f3w reprezentuje dzia\u0142anie tego neuronu docelowego?<\/p>\n\n\n\n To jest bli\u017csze pierwotnej intuicji stoj\u0105cej za wizualizacj\u0105 filtra liniowego.<\/p>\n\n\n\n Standardowe cofni\u0119cie jest ju\u017c bardziej zgodne z dynamiczn\u0105, afiniczn\u0105 koncepcj\u0105 oblicze\u0144 neuronowych. Pojawia si\u0119 jednak jeszcze jedna kwestia.<\/p>\n\n\n\n Cechy neuronowe cz\u0119sto nie s\u0105 w pe\u0142ni wyra\u017cone w pojedynczym punkcie wej\u015bciowym. Mog\u0105 by\u0107 cz\u0119\u015bciowo aktywne, st\u0142umione przez tward\u0105 bramk\u0119 lub roz\u0142o\u017cone na kilka sk\u0142adnik\u00f3w o s\u0142abym wk\u0142adzie. Jednostka ReLU mo\u017ce znajdowa\u0107 si\u0119 tu\u017c poni\u017cej progu. Warstwa agregacji mo\u017ce kierowa\u0107 wi\u0119kszo\u015b\u0107 sygna\u0142u przez jedno miejsce, podczas gdy pobliskie alternatywy nadal zawieraj\u0105 istotne semantycznie informacje.<\/p>\n\n\n\n Wskazuje to, \u017ce sensownym wyja\u015bnieniem nie zawsze jest surowe punktowe odwzorowanie wsteczne, lecz przewidywana na lokalnym rynku korekta<\/strong>: cofni\u0119cie, kt\u00f3re uzyskamy, analizuj\u0105c niewielk\u0105 okolic\u0119 wok\u00f3\u0142 warto\u015bci wej\u015bciowej.<\/p>\n\n\n\n Metody oparte na pr\u00f3bkowaniu, takie jak SmoothGrad<\/a> ju\u017c teraz wskazuj\u0105 na t\u0119 intuicj\u0119. Dodaj\u0105 szum do danych wej\u015bciowych, obliczaj\u0105 wiele gradient\u00f3w i u\u015bredniaj\u0105 je. Cz\u0119sto pozwala to uzyska\u0107 wyja\u015bnienia bardziej zgodne z postrzeganiem, ale jest to metoda kosztowna i oparta na heurystyce.<\/p>\n\n\n\n Pullbacki semantyczne realizuj\u0105 t\u0119 sam\u0105 ide\u0119 w bardziej bezpo\u015bredni spos\u00f3b.<\/p>\n\n\n\n Zamiast generowa\u0107 wiele pr\u00f3bnych warto\u015bci wej\u015bciowych z zak\u0142\u00f3ceniami, modyfikujemy wy\u0142\u0105cznie obliczenia wsteczne. Sztywne lub strome bramki wsteczne s\u0105 \u0142agodzone. Na przyk\u0142ad sztywn\u0105 mask\u0119 ReLU mo\u017cna w przebiegu wstecznym zast\u0105pi\u0107 p\u0142ynn\u0105 bramk\u0105. Obliczenia bezpo\u015brednie pozostaj\u0105 dok\u0142adnie takie same. Prognoza modelu nie ulega zmianie. Zmienia si\u0119 jedynie regu\u0142a wyja\u015bniaj\u0105ca.<\/p>\n\n\n\n W ten spos\u00f3b otrzymujemy \u0141agodne cofni\u0119cie<\/strong>: \u0142atwe do obliczenia przybli\u017cenie lokalnie oczekiwanego pullbacku.<\/p>\n\n\n\n Pozwala to odzyska\u0107 s\u0142abe, ale konsekwentnie przyczyniaj\u0105ce si\u0119 do wyniku sk\u0142adniki, kt\u00f3re standardowa iteracja wsteczna mo\u017ce pomija\u0107. W praktyce cz\u0119sto przekszta\u0142ca to zak\u0142\u00f3cone i fragmentaryczne wyja\u015bnienia w bardziej sp\u00f3jne struktury.<\/p>\n\n\n\n Gdy ju\u017c dysponujemy polem wektorowym pullbacku, mo\u017cemy nieznacznie przesun\u0105\u0107 dane wej\u015bciowe w kierunku preferowanym lokalnie przez neuron docelowy i ponownie obliczy\u0107 pullback. Powt\u00f3rzenie tej operacji przez kilka krok\u00f3w daje Wzrost po korekcie<\/strong>.<\/p>\n\n\n\n Jest to analogiczne do metody wznoszenia si\u0119 wzd\u0142u\u017c gradientu, ale z jedn\u0105 istotn\u0105 zmian\u0105: poruszamy si\u0119 wzd\u0142u\u017c kierunku cofni\u0119cia, a nie wzd\u0142u\u017c kierunku gradientu.<\/p>\n\n\n\n R\u00f3\u017cnica jest widoczna. Metoda gradientowego wzrostu w nowoczesnych sieciach cz\u0119sto generuje zak\u0142\u00f3cone, przypominaj\u0105ce ataki wzorce. Metoda \u201ePullback Ascent\u201d zazwyczaj ujawnia bardziej sp\u00f3jne struktury uwarunkowane klas\u0105. Wzmacnia ona lokalnie preferowany kierunek neuronu docelowego, zamiast jedynie zwi\u0119ksza\u0107 surow\u0105 czu\u0142o\u015b\u0107.<\/p>\n\n\n\n Dzi\u0119ki temu metoda ta sprawdza si\u0119 nie tylko w analizie atrybucji, ale tak\u017ce w tworzeniu lokalnych scenariuszy kontrfaktycznych. Mo\u017cemy zada\u0107 pytanie: co musia\u0142oby sta\u0107 si\u0119 bardziej widoczne na tym obrazie, aby model zaklasyfikowa\u0142 go do innej klasy? Metoda Pullback Ascent dostarcza uporz\u0105dkowanej odpowiedzi.<\/p>\n\n\n\n W eksperymentach przeprowadzonych na standardowych, wst\u0119pnie wytrenowanych modelach wizualnych, w tym na architekturach konwolucyjnych i modelach opartych na transformatorach, metoda Semantic Pullbacks dostarczy\u0142a wyja\u015bnienia, kt\u00f3re by\u0142y bardziej wierne, stabilne, dostosowane do konkretnego obiektu oraz znacznie lepiej zgodne z postrzeganiem zmys\u0142owym ni\u017c standardowe modele odniesienia oparte na gradiencie.<\/p>\n\n\n\n Najwa\u017cniejszy wniosek ma charakter koncepcyjny: gradienty nie s\u0105 jedynym naturalnym sygna\u0142em wstecznym w uczeniu g\u0142\u0119bokim. Je\u015bli chcemy zrozumie\u0107, co widzi sie\u0107 neuronowa, nie powinni\u015bmy pyta\u0107 jedynie o to, jak zmienia si\u0119 wynik w odpowiedzi na zmian\u0119 danych wej\u015bciowych. Powinni\u015bmy raczej zapyta\u0107, jaki kierunek w przestrzeni wej\u015bciowej odzwierciedla bie\u017c\u0105ce obliczenia sieci dotycz\u0105ce danego neuronu docelowego.<\/p>\n\n\n\n Wydaje si\u0119, \u017ce tym kierunkiem jest \u201esemantyczny pullback\u201d.<\/p>\n\n\n\n Jednym z najciekawszych wniosk\u00f3w p\u0142yn\u0105cych z tej pracy jest to, \u017ce pullbacki semantyczne \u0142\u0105cz\u0105 kilka koncepcji, kt\u00f3re wcze\u015bniej wydawa\u0142y si\u0119 odr\u0119bne, jednak zwi\u0105zek ten jest bardziej konkretny ni\u017c zwyk\u0142e stwierdzenie, \u017ce wszystkie one \u201cpoprawiaj\u0105 gradienty\u201d.<\/p>\n\n\n\n Modele w stylu B-cos<\/a> s\u0105 szczeg\u00f3lnie zbli\u017cone do naszego podej\u015bcia. Autorzy ci ju\u017c wykorzystuj\u0105 standardowy pullback jako wyja\u015bnienie: przenosz\u0105 kierunek wyj\u015bcia wstecz za pomoc\u0105 efektywnego operatora liniowego sieci. Ich dodatkowy krok ma charakter architektoniczny i dotyczy uczenia: modyfikuj\u0105 model i dodaj\u0105 cele dostosowuj\u0105ce, tak aby standardowy pullback by\u0142 lepiej dopasowany do danych wej\u015bciowych.<\/p>\n\n\n\n Pullbacki semantyczne opieraj\u0105 si\u0119 na innym podej\u015bciu. Nie modyfikujemy modelu prognozuj\u0105cego ani nie poddajemy go dostrajaniu. Zamiast tego sprawdzamy, czy mo\u017cna uzyska\u0107 lepsze wyja\u015bnienie, obliczaj\u0105c lokalnie oczekiwany pullback bezpo\u015brednio na standardowej, wst\u0119pnie wytrenowanej sieci.<\/p>\n\n\n\n Wyja\u015bnia to r\u00f3wnie\u017c zwi\u0105zek z metodami wyg\u0142adzania gradientu, takimi jak SmoothGrad. Metody te mo\u017cna interpretowa\u0107 jako pr\u00f3b\u0119 odtworzenia lokalnej warto\u015bci oczekiwanej poprzez pr\u00f3bkowanie zak\u0142\u00f3ce\u0144 z szumem i u\u015brednianie uzyskanych w ten spos\u00f3b wyja\u015bnie\u0144. Semantyczne pullbacki d\u0105\u017c\u0105 do podobnego celu, ale aproksymuj\u0105 lokalnie oczekiwany pullback za pomoc\u0105 zamkni\u0119tych regu\u0142 wstecznych dla poszczeg\u00f3lnych warstw, a nie poprzez pr\u00f3bkowanie stochastyczne.<\/p>\n\n\n\n Pullback Ascent \u0142\u0105czy t\u0119 metod\u0119 z podkre\u015blenie cech<\/a>. Standardowe podkre\u015blanie cech opiera si\u0119 na gradientach i dlatego zazwyczaj wymaga silnej regularyzacji, aby unikn\u0105\u0107 generowania wzor\u00f3w zawieraj\u0105cych szum lub przypominaj\u0105cych ataki przeciwnika. Zast\u0105pienie kierunku gradientu kierunkiem (mi\u0119kkiego) cofni\u0119cia zapewnia bardziej sp\u00f3jn\u0105 procedur\u0119 lokalnego wzrostu: wzmacnia preferowany kierunek neuronu docelowego bez konieczno\u015bci stosowania intensywnej obr\u00f3bki ko\u0144cowej.<\/p>\n\n\n\n Istnieje r\u00f3wnie\u017c zwi\u0105zek z optymalizacja robustna<\/a>. Modele odporne cz\u0119sto charakteryzuj\u0105 si\u0119 gradientami bardziej dostosowanymi do percepcji, poniewa\u017c ich funkcje decyzyjne staj\u0105 si\u0119 bardziej stabilne lokalnie w pobli\u017cu rozmaito\u015bci danych. Z perspektywy pullbacku pokrywa si\u0119 to z koncepcj\u0105, zgodnie z kt\u00f3r\u0105 modele ucz\u0105 si\u0119 cech dostosowanych do danych wej\u015bciowych niekoniecznie w jednym punkcie, ale w uj\u0119ciu lokalnym. Pullbacki semantyczne bezpo\u015brednio ujawniaj\u0105 t\u0119 struktur\u0119, nie wymagaj\u0105c przy tym uczenia przeciwstawnego.<\/p>\n\n\n\n Og\u00f3lny wniosek jest taki, \u017ce wiele skutecznych metod wyja\u015bniaj\u0105cych mo\u017cna postrzega\u0107 jako r\u00f3\u017cne pr\u00f3by odtworzenia stabilnego kierunku w przestrzeni wej\u015bciowej, powi\u0105zanego z docelowym neuronem, klas\u0105 lub cech\u0105. Semantyczne pullbacki ujawniaj\u0105 ten obiekt w spos\u00f3b wyra\u017any: nie jako gradient, ale jako lokalnie oczekiwany pullback efektywnego obliczenia sieci.<\/p>\n\n\n\n Obecnie biblioteki do g\u0142\u0119bokiego uczenia traktuj\u0105 gradienty jako elementy pierwszorz\u0119dne. Je\u015bli jednak sieci g\u0142\u0119bokie s\u0105 dynamicznymi uk\u0142adami afinicznymi, to obok pochodnej powinno by\u0107 dost\u0119pne r\u00f3wnie\u017c sprz\u0119\u017cone odwzorowanie dzia\u0142ania neuronu. Innymi s\u0142owy, pullback powinien sta\u0107 si\u0119 elementem pierwszorz\u0119dnym bibliotek do g\u0142\u0119bokiego uczenia, obok gradientu.<\/p>\n\n\n\n Nie wymaga\u0142oby to przeprojektowywania sieci neuronowych. W wielu warstwach pullback i gradient ju\u017c si\u0119 pokrywaj\u0105. W przypadku warstw liniowych, konwolucji i po\u0142\u0105cze\u0144 rezydualnych wystarcza standardowe przej\u015bcie wsteczne. Niewielkie r\u00f3\u017cnice pojawiaj\u0105 si\u0119 w stosunkowo niewielkim zestawie mechanizm\u00f3w: bramkach, operacjach routingu, warstwach normalizacyjnych i mechanizmie uwagi.<\/p>\n\n\n\n To sprawia, \u017ce pomys\u0142 ten jest praktyczny. Pullbacki semantyczne mo\u017cna zaimplementowa\u0107 jako niestandardowe regu\u0142y wsteczne, pozostawiaj\u0105c przej\u015bcie do przodu bez zmian. Mo\u017cna by nawet powiedzie\u0107, \u017ce je\u015bli pullbacki oka\u017c\u0105 si\u0119 lepszym rozwi\u0105zaniem pod wzgl\u0119dem optymalizacji (patrz poni\u017cej), mog\u0105 one ca\u0142kowicie zast\u0105pi\u0107 gradienty, poniewa\u017c ju\u017c udowodni\u0142y swoj\u0105 przewag\u0119 w generowaniu wyja\u015bnie\u0144!<\/p>\n\n\n\n Pullbacki semantyczne proponuj\u0105 nowy spos\u00f3b eksploracji i kszta\u0142towania przestrzeni reprezentacji. Poza atrybucj\u0105, metoda Pullback Ascent mo\u017ce s\u0142u\u017cy\u0107 do badania, jakie struktury model kojarzy z neuronem, klas\u0105 lub cech\u0105 wewn\u0119trzn\u0105. Mo\u017ce to wspiera\u0107 odkrywanie wiedzy w dziedzinach naukowych, tworzenie bardziej znacz\u0105cych scenariuszy kontrfaktycznych i interpolacji oraz lepsz\u0105 diagnostyk\u0119 tryb\u00f3w awarii.<\/p>\n\n\n\n To samo podej\u015bcie w naturalny spos\u00f3b mo\u017cna zastosowa\u0107 do tekstu. Funkcje \u201esemantic pullbacks\u201d mog\u0105 pom\u00f3c w wydobyciu dowod\u00f3w le\u017c\u0105cych u podstaw danej prognozy, zidentyfikowaniu struktur argumentacyjnych oraz wygenerowaniu wariant\u00f3w kontrfaktycznych, kt\u00f3re pokazuj\u0105, co musia\u0142oby ulec zmianie, aby model m\u00f3g\u0142 poprze\u0107 inne twierdzenie, oznaczenie lub odpowied\u017a.<\/p>\n\n\n\n Mog\u0105 one r\u00f3wnie\u017c okaza\u0107 si\u0119 przydatne w modelowaniu j\u0119zykowym i multimodalnym. W przypadku modeli j\u0119zykowych atrybucja oparta na cofaniu mog\u0142aby pozwoli\u0107 ustali\u0107, kt\u00f3re tokeny, fragmenty tekstu lub cechy wewn\u0119trzne mia\u0142y najwi\u0119kszy wp\u0142yw na przewidywanie nast\u0119pnego tokenu. W przypadku wideo i innych modalno\u015bci sekwencyjnych ta sama koncepcja mog\u0142aby pom\u00f3c w ustaleniu, kt\u00f3re klatki, obiekty lub wskaz\u00f3wki czasowe determinuj\u0105 dalsze dzia\u0142anie modelu lub jego decyzj\u0119.<\/p>\n\n\n\n Ta sama perspektywa mo\u017ce r\u00f3wnie\u017c znale\u017a\u0107 zastosowanie w edycji modeli, ich redukcji oraz ci\u0105g\u0142ym uczeniu si\u0119. Je\u015bli analizy cofania ujawni\u0105, kt\u00f3re sk\u0142adniki zawieraj\u0105 sp\u00f3jne dowody semantyczne, mog\u0105 one pom\u00f3c w zidentyfikowaniu, kt\u00f3re cz\u0119\u015bci modelu s\u0105 u\u017cyteczne, zb\u0119dne, niestabilne lub odpowiedzialne za nowe zachowanie.<\/p>\n\n\n\n Kolejnym obszarem wymagaj\u0105cym dalszego rozwoju jest sama edukacja. Najnowsze prace<\/a> sugeruje, \u017ce zmiana przebiegu wstecznego mo\u017ce poprawi\u0107 proces uczenia si\u0119. Pullbacki semantyczne oferuj\u0105 szersz\u0105 interpretacj\u0119 tego zjawiska: sygna\u0142y wsteczne z funkcji sprz\u0119\u017conej mog\u0105 zapewnia\u0107 czystsz\u0105 reprezentacj\u0119 kierunku, z kt\u00f3rego lokalnie korzysta neuron, zamiast miesza\u0107 go z efektami wynikaj\u0105cymi z bramek, routingu, normalizacji czy uwagi. Ma to potencja\u0142 poprawy nie tylko wyja\u015bnie\u0144, ale tak\u017ce samej generalizacji!<\/p>\n\n\n\n Je\u015bli interesuj\u0105 Ci\u0119 badania nad semantycznymi pullbackami, alternatywnymi przej\u015bciami wstecznymi, interpretowalno\u015bci\u0105 modeli j\u0119zykowych lub uczeniem i adaptacj\u0105 opartymi na pullbackach, ch\u0119tnie z Tob\u0105 porozmawiamy!<\/p>\n\n\n\n Uwaga<\/strong>: Badania opisane w niniejszym artykule zosta\u0142y przeprowadzone w Fundacji 314 we wsp\u00f3\u0142pracy z American University oraz Akademi\u0105 G\u00f3rniczo-Hutnicz\u0105 w Krakowie. Cogita publikuje ten artyku\u0142 jako przyjazny gospodarz i partner w szerszej spo\u0142eczno\u015bci zajmuj\u0105cej si\u0119 sztuczn\u0105 inteligencj\u0105. Preprint artyku\u0142u mo\u017cna znale\u017a\u0107 tutaj: https:\/\/arxiv.org\/abs\/2507.22832<\/a> z interaktywn\u0105 wersj\u0105 demonstracyjn\u0105 dost\u0119pn\u0105 tutaj: https:\/\/huggingface.co\/spaces\/msat\/SemanticPullbacks<\/a>.<\/p>\n\n\n\n <\/p>","protected":false},"excerpt":{"rendered":" Wprowadzenie<\/p>","protected":false},"author":2,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[48],"tags":[],"class_list":["post-2415","post","type-post","status-publish","format-standard","hentry","category-research"],"acf":[],"_links":{"self":[{"href":"https:\/\/cogita.ai\/pl\/wp-json\/wp\/v2\/posts\/2415","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cogita.ai\/pl\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/cogita.ai\/pl\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/cogita.ai\/pl\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/cogita.ai\/pl\/wp-json\/wp\/v2\/comments?post=2415"}],"version-history":[{"count":18,"href":"https:\/\/cogita.ai\/pl\/wp-json\/wp\/v2\/posts\/2415\/revisions"}],"predecessor-version":[{"id":2438,"href":"https:\/\/cogita.ai\/pl\/wp-json\/wp\/v2\/posts\/2415\/revisions\/2438"}],"wp:attachment":[{"href":"https:\/\/cogita.ai\/pl\/wp-json\/wp\/v2\/media?parent=2415"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/cogita.ai\/pl\/wp-json\/wp\/v2\/categories?post=2415"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/cogita.ai\/pl\/wp-json\/wp\/v2\/tags?post=2415"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}Problem z gradientami<\/strong><\/h2>\n\n\n\n
Pullback: odpowiednik liniowego wektora wag<\/strong><\/h2>\n\n\n\n
\u0141agodny pullback: neurony reprezentuj\u0105 cechy lokalnie i cz\u0119\u015bciowo<\/strong><\/h2>\n\n\n\n
Wznoszenie z cofni\u0119ciem: wzmocnienie lokalnie preferowanego kierunku<\/strong><\/h2>\n\n\n\n
Potwierdzenie empiryczne<\/strong><\/h2>\n\n\n\n
Wsp\u00f3lna perspektywa dotycz\u0105ca wyja\u015bnialno\u015bci<\/strong><\/h2>\n\n\n\n
Czy efekt cofni\u0119cia powinien zast\u0105pi\u0107 gradienty?<\/strong><\/h2>\n\n\n\n
Co b\u0119dzie dalej<\/strong><\/h2>\n\n\n\n
Porozmawiajmy!<\/strong><\/h2>\n\n\n\n