Företag som lovade '100% mänskligt skriven' medicinsk forskning var helt AI-genererad
Ett företag som marknadsförde sina medicinska forsknings- och peer review-tjänster som helt mänskligt skrivna visade sig använda AI för att generera allt innehåll. Avslöjandet väcker allvarliga frågor om integritet och säkerhet inom medicinsk forskning. Fallet har fått stor uppmärksamhet på Hacker News med över 150 röster.
Ett uppseendeväckande avslöjande från 404 Media visar att ett företag som aktivt marknadsförde sina medicinska forskningstjänster som '100% mänskligt skrivna och aldrig AI-genererade' i verkligheten förlitade sig helt på artificiell intelligens för att producera sitt innehåll. Företaget riktade sig mot aktörer inom medicinsk peer review och forskningspublicering med löften om autentiskt mänsklig expertis.
Avslöjandet är särskilt oroande med tanke på den känsliga naturen hos medicinsk forskning. Peer review-processen är en hörnsten i vetenskaplig integritet och är utformad för att säkerställa att studier är korrekta, reproducerbara och etiskt genomförda. Att ersätta mänskliga experter med AI-verktyg utan att informera kunderna utgör ett allvarligt brott mot branschens förtroende.
Fallet har fått stor spridning i tekniska kretsar och diskuteras flitigt på Hacker News, där användare uttrycker oro över hur svårt det är att verifiera äktheten hos innehåll som påstås vara mänskligt skapat. Många kommentatorer påpekar att detta troligen bara är toppen av ett isberg och att liknande aktörer sannolikt finns inom andra branscher.
Händelsen understryker det växande behovet av tydliga regleringar och standarder kring AI-genererat innehåll, särskilt inom högriskbranscher som medicin och vetenskap. Det ställer också frågan om hur plattformar och förlag kan skydda sig mot liknande bedrägliga tjänster i framtiden.