ΑρχικήΕιδήσειςΠαραιτήθηκε ερευνητής του OpenAI: «Η τεχνητή νοημοσύνη δεν είναι πλέον ασφαλής»

Παραιτήθηκε ερευνητής του OpenAI: «Η τεχνητή νοημοσύνη δεν είναι πλέον ασφαλής»

Ο Jan Leike, ερευνητής και βασικό στέλεχος στο OpenAI, παραιτήθηκε και αυτός μετά την περίφημη αποχώρηση του συνιδρυτή της εταιρείας Ilya Sutskever. Το πρωί της Παρασκευής, ο Leike δημοσίευσε ένα ανησυχητικό μήνυμα στο X (πρώην Twitter): σύμφωνα με τον Leike, στην εταιρεία τεχνητής νοημοσύνης ChatGPT «η ασφάλεια έχει τεθεί σε χαμηλή προτεραιότητα σε σύγκριση με τη δημιουργία όλο και πιο λαμπερών προϊόντων προς πώληση».

Αυτό το καυστικό σχόλιο από την μεριά του του Leike ήρθε λίγο μετά τη δημοσίευση ενός άρθρου του Wired που αποκάλυπτε τη διάλυση της εσωτερικής ομάδας του OpenAI που ήταν αφιερωμένη στη διαχείριση κινδύνων της τεχνητής νοημοσύνης, γνωστής ως “Superalignment team”. Ο Leike ηγήθηκε αυτής της ομάδας, που σχηματίστηκε τον περασμένο Ιούλιο με στόχο την «λύση θεμελιωδών τεχνικών προκλήσεων» στην εφαρμογή πρωτοκόλλων ασφαλείας, επειδή το OpenAI ανέπτυξε τεχνητή νοημοσύνη ικανή να συλλογιστεί όπως ένας άνθρωπο, κάτι που ομολογουμένως μπορεί να μετατραπεί σε ένα επικίνδυνο εργαλείο.

«Η κατασκευή τέτοιων συστημάτων που είναι πιο έξυπνα από έναν άνθρωπο είναι ένα τεράστιο εγχείρημα», πρόσθεσε ο Leike. «Το OpenAI θέτει ασυνείδητα μια τεράστια ευθύνη στους ώμους όλης της ανθρωπότητας». Το OpenAI γεννήθηκε με την ιδέα να κάνει τα μοντέλα του προσβάσιμα στο κοινό, , χωρίς διακρίσεις, όπως υποδηλώνει άλλωστε το όνομα και του οργανισμού.

Ωστόσο, τέτοια μοντέλα έχουν γίνει προϊόντα συνδρομής, με την εταιρεία να υποστηρίζει ότι το να επιτρέπεται σε οποιονδήποτε να έχει πρόσβαση σε τέτοια ισχυρά μοντέλα θα μπορούσε να είναι δυνητικά ενοχλητικό έως επικίνδυνο. «Αργήσαμε να λάβουμε σοβαρά τις επιπτώσεις της γενετικής τεχνητής νοημοσύνης. Πρέπει να δώσουμε προτεραιότητα στην προετοιμασία για αυτές τις προκλήσεις όσο καλύτερα μπορούμε», έγραψε ο Leike σε περαιτέρω αναρτήσεις σχετικά με την παραίτησή του, προσθέτοντας: «Μόνο τότε μπορούμε να διασφαλίσουμε ότι η τεχνητή νοημοσύνη ωφελεί όλη την ανθρωπότητα».

Το OpenAi παρουσίασε πρόσφατα την περαιτέρω εξέλιξη του μοντέλου τεχνητής νοημοσύνης GPT-4 , το οποίο σε αντίθεση με τον προκάτοχό του είναι δωρεάν προσβάσιμο προς όλους. Ωστόσο, ο Leike παραμένει επικριτικός: «Διαφωνώ με την ηγεσία του OpenAI για τις βασικές προτεραιότητες σε μακροπρόθεσμο επιπεδο της εταιρείας, με αποτέλεσμα να φτάσουμε σε οριακό σημείο», είπε σχετικά με την παραίτηση του.

Τα λόγια του Leike έριξαν ένα ανησυχητικό φως στο μέλλον που αφορά την έρευνα και την ασφάλεια στην τεχνητή νοημοσύνη, υπογραμμίζοντας την ανάγκη για ισορροπία μεταξύ ταχείας καινοτομίας και υπευθυνότητας στη διαχείριση των κινδύνων που συνδέονται με την ανάπτυξη τόσο ισχυρών τεχνολογιών εργαλείων.

Στέλιος Θεοδωρίδης
Στέλιος Θεοδωρίδης
Ο ήρωας μου είναι ο γάτος μου ο Τσάρλι και ακροάζομαι μόνο Psychedelic Trance
RELATED ARTICLES

Πρόσφατα άρθρα

Tηλέφωνα έκτακτης ανάγκης

Δίωξη Ηλεκτρονικού Εγκλήματος: 11188
Ελληνική Αστυνομία: 100
Χαμόγελο του Παιδιού: 210 3306140
Πυροσβεστική Υπηρεσία: 199
ΕΚΑΒ 166