Kilka tygodni temu rozmawia\u0142em z CTO \u015bredniej wielko\u015bci sklepu e-commerce. Narzeka\u0142, \u017ce od kiedy zesp\u00f3\u0142 zacz\u0105\u0142 u\u017cywa\u0107 asystent\u00f3w AI do generowania kodu, przyby\u0142o b\u0142\u0119d\u00f3w w produkcji. \u2013 \u201eDziwne, bo kod wygl\u0105da dobrze, a testy przechodz\u0105\u201d \u2013 m\u00f3wi\u0142. Problem w tym, \u017ce wygl\u0105d i testy jednostkowe nie wychwytuj\u0105 subtelnych problem\u00f3w: z\u0142ej architektury, braku skalowalno\u015bci czy luk bezpiecze\u0144stwa. <\/p>\n
AI w programowaniu to dar, ale i przekle\u0144stwo \u2013 je\u015bli u\u017cywasz go bez g\u0142owy. W tym artykule poka\u017c\u0119 trzy realne pu\u0142apki, kt\u00f3re widz\u0119 u klient\u00f3w i w projektach open source. Nie czarujmy si\u0119: modele j\u0119zykowe nie my\u015bl\u0105, one przewiduj\u0105 kolejne tokeny. A my \u2013 programi\u015bci i CTO \u2013 zbyt cz\u0119sto zapominamy o tym podstawowym fakcie.<\/p>\n
Wygenerujesz funkcj\u0119 w Node.js. Dzia\u0142a na pierwszy rzut oka. Testy przechodz\u0105. Wrzucasz na produkcj\u0119. Po tygodniu serwer pada, bo kod nie obs\u0142uguje b\u0142\u0119du sieci. AI nie wygenerowa\u0142o obs\u0142ugi wyj\u0105tk\u00f3w, bo w treningowym zbiorze rzadko wyst\u0119puj\u0105 takie przypadki. Ty zaufa\u0142e\u015b, \u017ce model \u201ewie, co robi\u201d.<\/p>\n
Realny przyk\u0142ad:<\/strong> W projekcie klienta z bran\u017cy fintech zesp\u00f3\u0142 u\u017cy\u0142 ChatGPT do napisania modu\u0142u p\u0142atno\u015bci. Kod dzia\u0142a\u0142 dla 90% przypadk\u00f3w. Przy obci\u0105\u017ceniu 10k transakcji na minut\u0119 okaza\u0142o si\u0119, \u017ce brakuje timeout\u00f3w \u2013 po\u0142\u0105czenia do API banku wisia\u0142y, a\u017c serwer si\u0119 zapcha\u0142. Straty? Oko\u0142o 30 tysi\u0119cy z\u0142otych w jeden dzie\u0144.<\/p>\n Lekcja:<\/strong> Model generuje \u015bredni\u0105. Nie testuje skrajnych przypadk\u00f3w. Nie my\u015bli o architekturze. Twoja odpowiedzialno\u015b\u0107 to zawsze przegl\u0105da\u0107 kod pod k\u0105tem edge cas\u00f3w, przeci\u0105\u017ce\u0144 i bezpiecze\u0144stwa. Nie polegaj na tym, \u017ce \u201eAI napisa\u0142o, wi\u0119c jest ok\u201d.<\/p>\n Kiedy prosisz AI o napisanie kodu, podajesz prompt. Ale prompt nie oddaje ca\u0142ego kontekstu: specyfiki domeny, regu\u0142 biznesowych, niuans\u00f3w, kt\u00f3re zesp\u00f3\u0142 wypracowa\u0142 przez lata. Model generuje co\u015b, co jest poprawne sk\u0142adniowo, ale cz\u0119sto niezgodne z logik\u0105 biznesow\u0105.<\/p>\n Realny przyk\u0142ad:<\/strong> Klient z bran\u017cy logistycznej poprosi\u0142 AI o wygenerowanie mechanizmu wyceny przesy\u0142ek. Model stworzy\u0142 algorytm oparty na odleg\u0142o\u015bci geograficznej, ale firma wycenia\u0142a wed\u0142ug stref wagowych i priorytet\u00f3w. Kod zosta\u0142 wdro\u017cony \u2013 i przez dwa dni klienci dostawali b\u0142\u0119dne faktury. Zanim si\u0119 zorientowali, stracili zaufanie kilku kluczowych kontrahent\u00f3w.<\/p>\n Lekcja:<\/strong> AI nie zast\u0105pi znajomo\u015bci domeny. U\u017cywaj go do szkielet\u00f3w, ale logik\u0119 biznesow\u0105 zawsze pisz samodzielnie albo dog\u0142\u0119bnie weryfikuj. Jako CTO lub tech lead musisz egzekwowa\u0107, \u017ce ka\u017cdy fragment wygenerowany przez model jest rozumiany przez cz\u0142owieka.<\/p>\n Najcz\u0119stszy b\u0142\u0105d, jaki widz\u0119: zespo\u0142y przestaj\u0105 robi\u0107 code review, bo \u201ekod wygl\u0105da dobrze\u201d. Albo robi\u0105 pobie\u017cnie, bo wierz\u0105, \u017ce model nie pope\u0142nia g\u0142upich b\u0142\u0119d\u00f3w. A to nieprawda. Modele j\u0119zykowe maj\u0105 tendencj\u0119 do generowania fragment\u00f3w, kt\u00f3re s\u0105 poprawne lokalnie, ale psuj\u0105 globaln\u0105 sp\u00f3jno\u015b\u0107 \u2013 np. u\u017cywaj\u0105 r\u00f3\u017cnych konwencji nazewnictwa, powielaj\u0105 logik\u0119 czy wprowadzaj\u0105 martwy kod.<\/p>\n Realny przyk\u0142ad:<\/strong> W startupie SaaS zesp\u00f3\u0142 u\u017cywa\u0142 GitHub Copilot. Jeden z deweloper\u00f3w wygenerowa\u0142 funkcj\u0119 do walidacji emaili. Funkcja dzia\u0142a\u0142a, ale nie by\u0142a zintegrowana z istniej\u0105c\u0105 bibliotek\u0105 walidacyjn\u0105. Po dw\u00f3ch miesi\u0105cach okaza\u0142o si\u0119, \u017ce w systemie s\u0105 dwie r\u00f3\u017cne implementacje walidacji, jedna z nich nie obs\u0142uguje nowych domen. Koszt: dwa dni pracy na refaktoring i stracone zaufanie u\u017cytkownik\u00f3w, kt\u00f3rzy dostawali fa\u0142szywe b\u0142\u0119dy.<\/p>\n Lekcja:<\/strong> Code review nie znika. Wr\u0119cz przeciwnie \u2013 staje si\u0119 wa\u017cniejsze, bo musisz wychwyci\u0107 nie tylko b\u0142\u0119dy ludzkie, ale te\u017c \u201eb\u0142\u0119dy maszynowe\u201d. Nie skracaj procesu przegl\u0105du. Wprowad\u017a zasad\u0119: ka\u017cdy commit z udzia\u0142em AI musi by\u0107 oznaczony i recenzowany podw\u00f3jnie.<\/p>\n AI w programowaniu to pot\u0119\u017cne narz\u0119dzie \u2013 ale narz\u0119dzie, nie zast\u0119pstwo my\u015blenia. Traktuj je jak sta\u017cyst\u0119: generuje szybko, ale wymaga nadzoru. Firmy, kt\u00f3re zapominaj\u0105 o kontek\u015bcie biznesowym, przestaj\u0105 robi\u0107 code review i \u015blepo ufaj\u0105 modelom, pr\u0119dzej czy p\u00f3\u017aniej zap\u0142ac\u0105 rachunek.<\/p>\n Co robi\u0107?<\/strong><\/p>\n W JurskiTech pomagamy firmom wdra\u017ca\u0107 AI w spos\u00f3b odpowiedzialny. Nie chodzi o to, \u017ceby nie u\u017cywa\u0107 nowych technologii \u2013 chodzi o to, \u017ceby robi\u0107 to z g\u0142ow\u0105. A Wy? Jakie macie do\u015bwiadczenia z asystentami programistycznymi? Dajcie zna\u0107 w komentarzach.<\/p>\n","protected":false},"excerpt":{"rendered":" Wst\u0119p Kilka tygodni temu rozmawia\u0142em z CTO \u015bredniej wielko\u015bci sklepu e-commerce. Narzeka\u0142, \u017ce od kiedy zesp\u00f3\u0142 zacz\u0105\u0142 u\u017cywa\u0107 asystent\u00f3w AI do generowania kodu, przyby\u0142o b\u0142\u0119d\u00f3w w produkcji. \u2013 \u201eDziwne, bo kod wygl\u0105da dobrze, a testy przechodz\u0105\u201d \u2013 m\u00f3wi\u0142. Problem w tym, \u017ce wygl\u0105d i testy jednostkowe nie wychwytuj\u0105 subtelnych problem\u00f3w: z\u0142ej architektury, braku skalowalno\u015bci czy<\/p>\n","protected":false},"author":2,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[7],"tags":[445,179,653,193],"class_list":["post-2868","post","type-post","status-publish","format-standard","hentry","category-warto-wiedziec","tag-agenci-ai","tag-efektywnosc-ai","tag-msp","tag-oprogramowanie"],"_links":{"self":[{"href":"https:\/\/news.jurskitech.pl\/blog\/wp-json\/wp\/v2\/posts\/2868","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/news.jurskitech.pl\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/news.jurskitech.pl\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/news.jurskitech.pl\/blog\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/news.jurskitech.pl\/blog\/wp-json\/wp\/v2\/comments?post=2868"}],"version-history":[{"count":0,"href":"https:\/\/news.jurskitech.pl\/blog\/wp-json\/wp\/v2\/posts\/2868\/revisions"}],"wp:attachment":[{"href":"https:\/\/news.jurskitech.pl\/blog\/wp-json\/wp\/v2\/media?parent=2868"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/news.jurskitech.pl\/blog\/wp-json\/wp\/v2\/categories?post=2868"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/news.jurskitech.pl\/blog\/wp-json\/wp\/v2\/tags?post=2868"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}2. Pu\u0142apka braku kontekstu biznesowego: AI nie zna Twojego domain model<\/h2>\n
3. Pu\u0142apka zaniechania przegl\u0105d\u00f3w: kiedy \u201eAI to napisa\u0142o\u201d zwalnia z odpowiedzialno\u015bci<\/h2>\n
Podsumowanie<\/h2>\n
\n