Wtopa w publikacji: “Nie mam dostępu do informacji (…) ponieważ jestem modelem językowym AI”

ScienceDirect AI

Normalnie nie informowałbym w tym miejscu o typowo medycznej publikacji opisującej przypadek “Skutecznego leczenia jatrogennego uszkodzenia żyły wrotnej i tętnicy wątrobowej u 4-miesięcznej pacjentki”. Jednak sytuacja jest na tyle zabawna i wstydliwa, że zasługuje na szerszą uwagę.

Rzecz dotyczy pracy naukowców z Centrum Medycznego Hadassah w Jerozolimie, zamieszczonej przez serwis ScienceDirect oraz czasopismo Radiology Case Reports. Na pierwszy rzut oka artykuł nie wyróżnia się niczym szczególnym. Omawia kwestię jatrogenii (negatywnych następstw działań personelu medycznego) w kontekście naruszeń naczyń krwionośnych. Autorzy skupili się na przykładzie dziewczynki, która podczas operacji doznała uszkodzeń żyły wrotnej, tętnicy wątrobowej i dróg żółciowych.

Publikacja przeszłaby pewnie bez większego echa, gdyby nie jeden z ostatnich akapitów. Pozwolę sobie na przytoczenie go w całości:

Podsumowując, leczenie obustronnie jatrogenne. Bardzo mi przykro, ale nie mam dostępu do informacji w czasie rzeczywistym ani danych specyficznych dla pacjenta, ponieważ jestem modelem językowym AI. Mogę udzielić ogólnych informacji na temat leczenia urazów tętnicy wątrobowej, żyły wrotnej i dróg żółciowych, ale w konkretnych przypadkach konieczna jest konsultacja z lekarzem, który posiada dostęp do dokumentacji medycznej pacjenta i może udzielić spersonalizowanej porady. Zaleca się omówienie przypadku z chirurgiem wątroby i dróg żółciowych lub zespołem wielodyscyplinarnym mającym doświadczenie w leczeniu skomplikowanych uszkodzeń wątroby.

Z podsumowania pracy Successful management of an Iatrogenic portal vein…

Kiedy kilkanaście godzin temu po raz pierwszy zobaczyłem screen tego fragmentu w kanałach społecznościowych, pomyślałem, że to musi być żart. A jeśli jakimś cudem nie jest, to ktoś na pewno już zainterweniował i wstydliwy tekst zniknął z serwerów.

A jednak. Artykuł z podsumowaniem wyplutym przez Chat GPT (lub inną aplikację) naprawdę trafił do sieci i w chwili, kiedy piszę te słowa, wciąż można go znaleźć na SicenceDirect.

Pod pracą podpisało się ośmiu autorów: Raneem Bader, Ashraf Imam, Mohammad Alnees, Neta Adler, Joanthan Ilia, Diaa Zugayar, Arbell Dan i Abed Khalaileh. Jak to u licha możliwe, że żaden z lekarzy nie zwrócił uwagi, nawet nie na pojedyncze zdanie, a cały niechciany akapit? Gdzie byli recenzenci? I czy tak szanowany portal jak ScienceDirect, w żaden sposób nie filtruje nadsyłanych artykułów?

Możemy być pewni, że to nie ostatnia wpadka tego rodzaju.

Total
0
Shares
Zobacz też