Κρυφό κείμενο σε ιστοσελίδες μπορεί να επηρεάσει τις απαντήσεις του ChatGPT, προκαλώντας ανησυχίες για την αξιοπιστία της αναζήτησης που βασίζεται στην τεχνητή νοημοσύνη.
Το εργαλείο αναζήτησης του ChatGPT της OpenAI βρίσκεται υπό έρευνα, μετά από μια έρευνα της Guardian που αποκάλυψε ευπάθειες σε χειρισμό και κακόβουλο περιεχόμενο.
Κρυφό κείμενο σε ιστοσελίδες μπορεί να αλλάξει τις απαντήσεις της τεχνητής νοημοσύνης, προκαλώντας ανησυχίες για την αξιοπιστία του εργαλείου.
Η δυνατότητα αναζήτησης, η οποία είναι διαθέσιμη προς το παρόν μόνο για χρήστες με premium συνδρομή, θα μπορούσε να παραπλανήσει σχετικά με προϊόντα ή υπηρεσίες, συνοψίζοντας θετικό περιεχόμενο που έχει προστεθεί σκόπιμα, ακόμα και όταν υπάρχουν αρνητικές κριτικές.
Ο ερευνητής κυβερνοασφάλειας Jacob Larsen προειδοποίησε ότι το σύστημα τεχνητής νοημοσύνης στη τρέχουσα μορφή του θα μπορούσε να επιτρέψει δόλιες πρακτικές.
Δοκιμές έδειξαν πώς κρυφοί προσδιορισμοί στις ιστοσελίδες επηρεάζουν το ChatGPT να παραδώσει μεροληπτικές κριτικές. Ο ίδιος μηχανισμός θα μπορούσε να εκμεταλλευτεί για τη διανομή κακόβουλου κώδικα, όπως τονίστηκε σε μια πρόσφατη απάτη με κρυπτονόμισμα, όπου το εργαλείο μοιράστηκε κατά λάθος οδηγίες κλοπής διαπιστευτηρίων.
Λάθη από την τεχνολογία μπορεί να εντείνουν τους κινδύνους, ιδιαίτερα καθώς δεν διαθέτει την ικανότητα να αξιολογεί κριτικά τις πηγές.
Η OpenAI αναγνωρίζει την πιθανότητα λαθών, προειδοποιώντας τους χρήστες να επαληθεύουν τις πληροφορίες. Ωστόσο, οι ευρύτερες συνέπειες, όπως το πώς αυτές οι ευπάθειες θα μπορούσαν να επηρεάσουν τις πρακτικές των ιστοσελίδων, παραμένουν ασαφείς.
Το κρυφό κείμενο, αν και παραδοσιακά επιβάλλεται ποινή από τις μηχανές αναζήτησης όπως η Google, μπορεί να βρει νέα ζωή στον χειρισμό εργαλείων τεχνητής νοημοσύνης, θέτοντας προκλήσεις για την OpenAI στο να ασφαλίσει το σύστημα.
About the Author
Discover more from The Persona
Subscribe to get the latest posts sent to your email.
