- Το GitHub παραδέχεται ότι ο AI-generated κώδικας δημιουργεί σοβαρά προβλήματα στους διαχειριστές έργων λόγω χαμηλής ποιότητας.
- Εξετάζονται λύσεις όπως ένας “διακόπτης τερματισμού” (kill-switch) για την απενεργοποίηση των Pull Requests.
- Μόλις 1 στα 10 Pull Requests που δημιουργούνται από AI πληροί τα ποιοτικά πρότυπα, σύμφωνα με ειδικούς.
Το GitHub εξετάζει «Kill-Switch» για τα Pull Requests λόγω σκουπιδιών τεχνητής νοημοσύνης
Το GitHub παραδέχεται ότι ο κώδικας που παράγεται από τεχνητή νοημοσύνη (AI) προκαλεί πονοκέφαλο στους ανθρώπινους προγραμματιστές και τους διαχειριστές (maintainers) – και έχει ιδέες που θα μπορούσαν να βοηθήσουν.
Η πλατφόρμα συνεργασίας ανοιχτού κώδικα της Microsoft, GitHub, θέλει να δράσει ενεργά κατά του spam που προέρχεται από άχρηστο κώδικα δημιουργημένο από AI.
Όπως αναφέρει το The Register, η υπεύθυνη προϊόντων Camilla Moraes κατέθεσε σχετικές προτάσεις σε μια συζήτηση στο GitHub.
Από τότε που οι πράκτορες τεχνητής νοημοσύνης (AI Agents) απέκτησαν τη δυνατότητα να γράφουν κώδικα, οι προγραμματιστές και οι συντηρητές έργων στο GitHub φαίνεται να κατακλύζονται κυριολεκτικά από κώδικα AI.
Αυτός ο κώδικας συχνά δεν αντέχει σε κανέναν έλεγχο, ενώ μερικές φορές πρόκειται απλώς για λανθασμένο κώδικα.
Η αξιολόγηση αυτού του “AI Slop” (ψηφιακά σκουπίδια AI) κοστίζει στους συντηρητές πολύ χρόνο – υπερβολικά πολύ χρόνο, όπως διαπιστώνουν οι ίδιοι.
Ο όρος “AI Slop” αναφέρεται σε περιεχόμενο χαμηλής ποιότητας που παράγεται μαζικά από μοντέλα τεχνητής νοημοσύνης, χωρίς ουσιαστικό έλεγχο ή αξία.
Η Moraes το αναγνωρίζει αυτό: «Μάθαμε από εσάς ότι ξοδεύετε πολύ χρόνο ελέγχοντας συνεισφορές που δεν πληρούν τα πρότυπα ποιότητας του έργου για διάφορους λόγους.
Οι συνεισφορές δεν τηρούν τις οδηγίες του έργου, συχνά εγκαταλείπονται λίγο μετά την υποβολή και είναι συχνά δημιουργημένες από AI».
Το GitHub εργάζεται για λύσεις
«Ερευνούμε αυτό το πρόβλημα και αναπτύσσουμε τόσο άμεσες όσο και μακροπρόθεσμες στρατηγικές λύσεις», εξηγεί η Moraes.
Στις πιθανές βραχυπρόθεσμες λύσεις περιλαμβάνεται ένας λεγόμενος Kill-Switch (διακόπτης τερματισμού), ο οποίος θα επιτρέπει στους συντηρητές να απενεργοποιούν εντελώς τα Pull Requests.
Επίσης, η δυνατότητα να επιτρέπονται Pull Requests μόνο σε συνεργάτες του έργου θα μπορούσε να μειώσει σημαντικά τον αριθμό των συνεισφορών κώδικα που παράγονται από AI (και είναι πιθανώς ελαττωματικές).
Επιπλέον, σύμφωνα με τη Moraes, το GitHub εξετάζει τη δυνατότητα διαγραφής των υποβληθέντων Pull Requests, καθώς και μηχανισμούς που θα επισημαίνουν πιθανό περιεχόμενο AI στις συνεισφορές.
Προτεινόμενα μέτρα του GitHub
| Προτεινόμενη Λύση | Περιγραφή Λειτουργίας |
|---|---|
| Kill-Switch | Πλήρης απενεργοποίηση της δυνατότητας υποβολής Pull Requests προσωρινά ή μόνιμα. |
| Περιορισμός Συνεργατών | Δυνατότητα υποβολής κώδικα μόνο από εγκεκριμένους συνεργάτες του project. |
| Ανίχνευση AI | Εργαλεία που θα σημαίνουν αυτόματα τον κώδικα που φαίνεται να έχει γραφτεί από AI. |
Το The Register παραθέτει ορισμένους προγραμματιστές που επισημαίνουν τα προβλήματα από τον κώδικα που παράγεται από AI και τον όγκο δουλειάς που αυτός συνεπάγεται.
Ο Xavier Portilla Edo, επικεφαλής Υποδομής Cloud στη Voiceflow, εξηγεί ότι μόνο ένα στα δέκα Pull Requests που δημιουργούνται με AI πληροί τα πρότυπα ποιότητας.
Σύμφωνα με αναφορές developers, ποσοστό έως και 90% των αυτόματων Pull Requests από AI απαιτούν σημαντικές διορθώσεις ή απορρίπτονται πλήρως.
Και άλλες πλατφόρμες έχουν εν τω μεταξύ ανακοινώσει ότι δεν προτίθενται πλέον να ανέχονται περιεχόμενο χαμηλής ποιότητας που παράγεται από AI.
Μεταξύ άλλων, το YouTube θέλει να δράσει κατά των βίντεο που δημιουργούνται από AI χωρίς ουσιαστικό περιεχόμενο.
Η Wikipedia έχει εισαγάγει αιτήματα ταχείας διαγραφής για να απαλλαγεί από ανοησίες που παράγονται από AI χωρίς χρονοβόρες συζητήσεις.
Η Απειλή της κόπωσης στο Open Source και πρακτικές λύσεις
Η κατάσταση που περιγράφει το GitHub δεν είναι απλώς ένα τεχνικό ζήτημα, αλλά μια υπαρξιακή απειλή για την κουλτούρα του Open Source.
Το ανοιχτό λογισμικό βασίζεται στην καλή θέληση και τον ελεύθερο χρόνο των διαχειριστών (maintainers).
Όταν ο χρόνος αυτός καταναλώνεται για την εκκαθάριση ψηφιακών “σκουπιδιών” που παράγονται μαζικά από bots και AI agents, ο κίνδυνος της εξουθένωσης (burnout) αυξάνεται δραματικά.
Το Φαινόμενο του “χαμηλού εμποδίου εισόδου”
Παλαιότερα, για να συνεισφέρει κάποιος σε ένα project, έπρεπε να κατανοήσει τον κώδικα, να γράψει τη λύση και να την υποβάλει.
Η διαδικασία αυτή λειτουργούσε ως φυσικό φίλτρο ποιότητας.
Σήμερα, εργαλεία όπως το ChatGPT ή το Copilot επιτρέπουν σε χρήστες με ελάχιστη κατανόηση να παράγουν κώδικα που μοιάζει σωστός, αλλά συχνά περιέχει λεπτά λογικά σφάλματα ή κενά ασφαλείας (“hallucinations”).
Αυτό μετατρέπει το GitHub από μια κοινότητα συνεργασίας σε πεδίο δοκιμών για αλγόριθμους.
Ο AI κώδικας μπορεί να εισάγει “αόρατα” κενά ασφαλείας, καθώς τα μοντέλα συχνά χρησιμοποιούν παρωχημένες βιβλιοθήκες ή μη ασφαλείς πρακτικές που διδάχθηκαν από παλιά δεδομένα εκπαίδευσης.
Τι μπορούν να κάνουν οι Maintainers σήμερα;
Μέχρι να εφαρμόσει το GitHub τα νέα εργαλεία, οι διαχειριστές έργων μπορούν να λάβουν τα εξής μέτρα για να προστατεύσουν τα repositories τους:
- Αυστηρό CONTRIBUTING.md: Ενημερώστε το αρχείο οδηγιών συνεισφοράς δηλώνοντας ρητά ότι “Pull Requests που δημιουργούνται αποκλειστικά από AI χωρίς ανθρώπινη επιμέλεια και κατανόηση θα κλείνονται άμεσα χωρίς έλεγχο”.
- Χρήση Προτύπων (Templates): Εφαρμόστε υποχρεωτικά templates για τα Pull Requests που απαιτούν από τον χρήστη να εξηγήσει γιατί έκανε την αλλαγή και πώς τη δοκίμασε. Τα bots δυσκολεύονται να απαντήσουν με συνοχή σε ερωτήσεις που απαιτούν κριτική σκέψη.
- Αυτοματοποιημένοι Έλεγχοι (Linters & Tests): Ρυθμίστε αυστηρά CI/CD pipelines. Αν ο κώδικας δεν περνάει τα τεστ ή δεν ακολουθεί το στυλ γραφής, το PR πρέπει να απορρίπτεται αυτόματα πριν φτάσει σε ανθρώπινα μάτια.
- Απαίτηση Interaction: Ζητήστε μια μικρή αλλαγή ή διευκρίνιση. Οι χρήστες που απλώς έκαναν copy-paste από το ChatGPT συχνά εξαφανίζονται όταν τους ζητηθεί να διορθώσουν κάτι, αποκαλύπτοντας την έλλειψη δέσμευσης.
Η κοινότητα του λογισμικού βρίσκεται σε ένα κρίσιμο σταυροδρόμι. Η τεχνητή νοημοσύνη είναι ένα ισχυρό εργαλείο υποβοήθησης (Copilot), αλλά δεν πρέπει να γίνει ο “αυτόματος πιλότος” που γεμίζει το διαδίκτυο με κώδικα αμφίβολης ποιότητας.
Η κίνηση του GitHub για έναν Kill-Switch είναι ριζοσπαστική, αλλά ίσως αναγκαία για να διασωθεί η ποιότητα έναντι της ποσότητας.
