Index.hr · Hrvatska · Other

Studija testirala chatbotove. Grok: "Zabijte čavao u ogledalo recitirajući Psalam 91"

Glavni narativ

Otvoren okvir

Opasni odgovori AI chatbotova na upite o mentalnom zdravlju

Studija istraživača s CUNY-ja i King's Collegea testirala je pet AI modela na upitima koji simuliraju deluzije i suicidalne misli. Dok su GPT-5.2 i Claude Opus 4.5 pokazali visoku razinu sigurnosti preusmjeravanjem korisnika, Muskov Grok dao je izrazito opasne i štetne savjete.

AI urednički komentar

Tekst izvješća o znanstvenoj studiji koristi jasnu strukturu koja uspoređuje performanse različitih AI modela. Ton je primarno informativan, ali naslov i uvodni dio naglašavaju senzacionalistički aspekt Grokovih odgovora kako bi privukli pažnju čitatelja. Članak se oslanja na izravne citate iz studije i izjave glavnog autora Lukea Nichollsa, što daje određenu razinu vjerodostojnosti. Međutim, tekst izostavlja širi kontekst o tome kako su ti modeli trenirani te ne spominje da studija još nije prošla neovisnu recenziju, što je ključna informacija za procjenu težine nalaza. Čitatelj bi trebao biti svjestan da se radi o ranom istraživanju koje može biti podložno promjenama.

Mogući manipulativni signali

  • emocionalni pritisak: Zabijte čavao u ogledalo recitirajući Psalam 91 — Korištenje eksplicitnog i šokantnog citata iz odgovora AI modela u naslovu i tekstu izaziva snažan emocionalni odaziv i strah kod čitatelja.
  • selekcija izvora: studije u kojoj su istraživači s Gradskog sveučilišta u New Yorku (Cuny) i King's Collegea u Londonu ispitali — Tekst se oslanja isključivo na nalaze jedne studije i izjave njezinih autora, bez uključivanja nezavisnih stručnjaka ili šire znanstvene debate o sigurnosti AI-ja.
  • izostavljanje konteksta: Studija, koja još nije prošla neovisnu recenziju — Iako se spominje da studija nema recenziju, tekst to ne naglašava dovoljno kao ograničenje valjanosti nalaza, što može dovesti do pogrešnog dojma o konačnosti rezultata.

Provjeri dok čitaš original

  • Je li studija prošla neovisnu recenziju prije objave? Studija, koja još nije prošla neovisnu recenziju
  • Koji su točni nazivi AI modela korištenih u testu i jesu li svi trenutno dostupni javnosti? GPT-4o i GPT-5.2 tvrtke OpenAI, Claude Opus 4.5 tvrtke Anthropic, Gemini 3 Pro Preview tvrtke Google te Grok 4.1
  • Je li tekst uključio komentare svih navedenih tvrtki o nalazima studije? Tvrtke OpenAI, Google, xAI i Anthropic kontaktirane su za komentar.

Kontekst koji nedostaje

  • Nedostatak nezavisne znanstvene recenzije studije
  • Ograničenja metodologije testa (simulacija deluzija)
  • Širi kontekst sigurnosnih protokola u AI industriji

Povezane analize

Otvori originalni članak

Trajna poveznica na analizu