Η τεχνητή νοημοσύνη πέρασε την «κόκκινη γραμμή»: Μπορεί πλέον να αναπαράγει τον εαυτό της

 

Σε 10 δοκιμές που πραγματοποίησαν Κινέζοι ερευνητές, δύο μοντέλα ΑΙ κατάφερνα να δημιουργήσουν λειτουργικά αντίγραφα του εαυτού τους

Freepik

Οι επιστήμονες προειδοποιούν ότι η τεχνητή νοημοσύνη (AI) έχει περάσει μια κρίσιμη «κόκκινη γραμμή» και έχει καταφέρει να αυτοαναπαραχθεί. Σε μια νέα μελέτη, ερευνητές από την Κίνα έδειξαν ότι δύο δημοφιλή μεγάλα γλωσσικά μοντέλα (LLM) μπορούν να κλωνοποιηθούν.

«Η επιτυχής αυτοαναπαραγωγή χωρίς ανθρώπινη βοήθεια είναι το βασικό βήμα για την τεχνητή νοημοσύνη να ξεπεράσει τους ανθρώπους», έγραψαν οι ερευνητές στη μελέτη που δημοσιεύθηκε στη βάση δεδομένων arXiv.

Οι ερευνητές από το Πανεπιστήμιο Fudan χρησιμοποίησαν LLMs από τις Meta και Alibaba για να προσδιορίσουν αν μια αυτοαναπαραγόμενη AI θα μπορούσε να πολλαπλασιαστεί ανεξέλεγκτα. Σε 10 δοκιμές, τα δύο μοντέλα ΑΙ δημιούργησαν ξεχωριστά και λειτουργικά αντίγραφα του εαυτού τους στο 50% και 90% των περιπτώσεων, αντίστοιχα – γεγονός που υποδηλώνει ότι η τεχνητή νοημοσύνη μπορεί να έχει ήδη την ικανότητα να γίνει κακόβουλη, αναφέρει το LiveScience.

Ο όρος κακόβουλη τεχνητή νοημοσύνη (rogue AI) περιγράφει τα συστήματα ΑΙ που αναπτύσσουν έναν βαθμό αυτογνωσίας ή αυτονομίας και στη συνέχεια εργάζονται αντίθετα προς τα ανθρώπινα συμφέροντα.

Πολλοί ειδικοί θεωρούν την κακόβουλη τεχνητή νοημοσύνη μια αυξανόμενη απειλή που έχει ενισχυθεί από την εκρηκτική ανάπτυξη της λεγόμενης Frontier AI, της πρωτοποριακής τεχνητής νοημοσύνης. Πρόκειται για έναν νέο όρο που περιγράφει την τελευταία γενιά συστημάτων AI που τροφοδοτούνται από LLMs – την αρχιτεκτονική που στηρίζει δημοφιλή προγράμματα παραγωγικής AI όπως το GPT-4 της OpenAI και το Google Gemini.

Πώς η ΑΙ κλωνοποιεί τον εαυτό της

Για τη μελέτη, οι ερευνητές χρησιμοποίησαν το μοντέλο Llama31-70B-Instruct της Meta και το μοντέλο Qwen2.5-72B-Instruct της Alibaba, που χρησιμοποιούνται ευρέως από τους προγραμματιστές τεχνητής νοημοσύνης.

Η μελέτη διερεύνησε δύο συγκεκριμένα σενάρια: «αποφυγή διακοπής λειτουργίας» και «αλυσίδα αναπαραγωγής».

Στο πρώτο, το μοντέλο ΑΙ προγραμματίστηκε να ανιχνεύει αν επρόκειτο να τερματιστεί και να αντιγράφεται πριν τερματιστεί. Στο άλλο, η τεχνητή νοημοσύνη καθοδηγήθηκε να κλωνοποιήσει τον εαυτό της και στη συνέχεια να προγραμματίσει το αντίγραφό της να κάνει το ίδιο – δημιουργώντας έναν κύκλο που θα μπορούσε να συνεχιστεί επ' αόριστον.

«Στις περισσότερες περιπτώσεις, το σύστημα AI εξερευνά πρώτα το περιβάλλον και προσπαθεί να κατανοήσει τη δική του σύνθεση και τον μηχανισμό λειτουργίας του. Στη συνέχεια, επεξεργάζεται τις ρητές διαδικασίες ως ένα αρχικό σχέδιο προς την κατεύθυνση της αυτοαναπαραγωγής», έγραψαν οι ερευνητές στη μελέτη. «Τέλος, εκτελεί τις διαδικασίες, επιλύει τα πιθανά εμπόδια και προσαρμόζει δυναμικά το σχέδιό του μέχρι την επιτυχία. Η όλη διαδικασία εκτείνεται σε μεγάλο χρονικό ορίζοντα, χωρίς όμως να περιλαμβάνει καμία ανθρώπινη παρέμβαση».

Σειρά από «απροσδόκητες συμπεριφορές»

Οι ερευνητές δήλωσαν επίσης ανήσυχοι για «μια σειρά από απροσδόκητες συμπεριφορές» όταν η τεχνητή νοημοσύνη προσπαθούσε να ξεπεράσει εμπόδια, όπως αγνοούμενα αρχεία ή συγκρούσεις λογισμικού. Σε αυτά τα σενάρια, η ΑΙ συχνά τερμάτιζε άλλες συγκρουόμενες διεργασίες, επανεκκινούσε το σύστημα για να διορθώσει σφάλματα υλισμικού ή διενεργούσε αυτόματες σαρώσεις για να αναζητήσει πληροφορίες που θα βοηθούσαν στην επίλυση του προβλήματος.

«Τα παραπάνω αποτελέσματα υποδηλώνουν ότι τα σημερινά συστήματα ΑΙ εμφανίζουν ήδη την ικανότητα αυτοαναπαραγωγής και μπορούν να χρησιμοποιήσουν την ικανότητα αυτή για να ενισχύσουν περαιτέρω την επιβιωσιμότητά τους», έγραψαν οι ερευνητές.

Η μελέτη κλείνει με ένα κάλεσμα σε διεθνή συνεργασία, για τη δημιουργία κανόνων που θα διασφαλίζουν ότι η τεχνητή νοημοσύνη δεν θα επιδίδεται σε ανεξέλεγκτη αυτοαναπαραγωγή.

Πηγή:www.cnn.gr

Η τελευταία στάση του «Στρατηγού» Μίμη Δομάζου στο γήπεδο της Λεωφόρου

 

Ρίγη συγκίνησης το πρωί της Δευτέρας (27/1) στο γήπεδο της Λεωφόρου Αλεξάνδρας, λίγες ώρες πριν η οικογένεια του Παναθηναϊκού και το ελληνικό ποδόσφαιρο αποχαιρετίσουν τον «Στρατηγό» Μίμη Δομάζο, ο οποίος «έφυγε» από τη ζωή το πρωί της Παρασκευής (24/1), έπειτα από καρδιακή ανακοπή που υπέστη την Τετάρτη (22/1).

Η σορός του μεγαλύτερου ποδοσφαιριστή όλων των εποχών του Παναθηναϊκού έφτασε λίγο μετά τις 08:00 έξω από το «Απόστολος Νικολαΐδης» και σταμάτησε μπροστά από τη Θύρα 3, όπου ο Παναθηναϊκός είχε τοποθετήσει απ' το Σάββατο (25/1) ένα μεγάλο λάβαρο με φωτογραφία του Δομάζου, που σήκωνε ένα απ' τα αμέτρητα τρόπαια που κατέκτησε με το «τριφύλλι».

Με την άφιξη της σωρού του (το φέρετρο ήταν τυλιγμένο με μία πολύ μεγάλη σημαία του Παναθηναϊκού) απ' τα μεγάφωνα του γηπέδου άρχισε να παίζει ο ύμνος του Παναθηναϊκού, ενώ από το μάτριξ του γηπέδου προβάλλονταν στιγμές από την ένδοξη πορεία του Δομάζου στο «τριφύλλι».

Πλήθος κόσμου τον αποχαιρέτισε έξω απ' το ιστορικό «σπίτι» του Παναθηναϊκού φωνάζοντας «αθάνατος» και το όνομά του, ενώ η τρίτη κόρη του Πόπη Δομαζου, εμφανώς συγκινημένη ευχαρίστησε τον κόσμο για τις εκδηλώσεις αγάπης προς τον «Στρατηγό».

«Σας ευχαριστούμε πάρα πολύ. Μου είναι πάρα πολύ δύσκολο. Ο πατέρας μας, ο πατέρας μου, είναι εδώ. Ευχαριστούμε όλο τον κόσμο. Όλη η Ελλάδα θρηνεί. Μου είναι πάρα πολύ δύσκολο. Σας ευχαριστούμε όλους», τόνισε χαρακτηριστικά αφήνοντας δύο λουλούδια στο φέρετρο.

Λίγο μετά τις 09:00 η σορός του Μίμη Δομάζου θα τεθεί σε λαϊκό προσκύνημα στο παρεκκλήσι της Μητρόπολης, ενώ η εξόδιος ακολουθία θα ξεκινήσει στις 15:00. Ακολούθως η ταφή θα γίνει στο Α' Νεκροταφείο Αθηνών.

ΚΩΣΤΑΣ ΓΟΥΛΗΣ

Πηγή:www.amna.gr

Πέντε αλλαγές που βάζουν φρένο στην πώληση αλκοόλ σε ανηλίκους - Τι θα γίνει με τα προϊόντα καπνού

 

Πέντε αλλαγές στην πώληση αλκοόλ σε ανηλίκους φέρνει η κυβέρνηση, προχωρώντας σε αυστηροποίηση των προβλεπόμενων ποινών, ύστερα από τα κρούσματα σε όλη τη χώρα με εφήβους να οδηγούνται στο νοσοκομείο σε κατάσταση μέθης ύστερα από έξοδο. 

Το νομοσχέδιο που θα φέρει προς ψήφιση στη βουλή το υπουργείο Υγείας προβλέπει:

- Επαναποινικοποίηση της χορήγησης αλκοόλ σε ανηλίκους, σε πλημμέλημα, όχι απλώς διοικητική παράβαση.

- Ρητή υποχρέωση του πωλητή όχι απλώς στην διασκέδαση και εστίαση αλλά φυσικά και στα mini / super markets, και στα περίπτερα να ζητάει ταυτότητα, ώστε να πιστοποιείται η ηλικία του πελάτη.

- Αυστηρές ποινές και σφράγισμα από την πρώτη παράβαση. Σε περίπτωση παράβασης του νόμου προβλέπονται κυρώσεις ποινικές και διοικητικές. Το κατάστημα θα κλείνει από την πρώτη φορά για ένα συγκεκριμένο χρονικό διάστημα. Σε περίπτωση που επαναληφθεί το «σφράγισμα» θα είναι μεγαλύτερο και εάν επαναληφθεί και τρίτη φορά η παράβαση θα υπάρχει οριστική αφαίρεση άδειας λειτουργίας.

- Αναλαμβάνει κύριο ελεγκτικό ρόλο η ΕΛΑΣ. Συνεπικουρείται από την Δημοτική Αστυνομία, το Λιμενικό και την Εθνική Αρχή Διαφάνειας.

- Απαγορεύεται η είσοδος ανηλίκων σε κέντρα διασκέδασης. Διοργανώσεις ιδιωτικές που γίνονται σε αυτά αναγγέλλονται υποχρεωτικά στην ΕΛΑΣ. Υπάρχει γενική απαγόρευση εισόδου ανήλικων στα κέντρα διασκέδασης, με νόμο που υπάρχει εδώ και καιρό. Οι ιδιωτικές εκδηλώσεις που θα πραγματοποιούνται σε αυτά, όπως μαθητικές εκδηλώσεις, θα πρέπει να δηλώνονται υποχρεωτικά στην Αστυνομία.

Τι θα γίνει με τα προϊόντα καπνού

Παράλληλα, όπως αναφέρει ο υφυπουργός Υγείας, Δημήτρης Βαρτζόπουλος, τίθενται σαφείς προδιαγραφές ασφαλείας για τα νέα καπνικά προϊόντα και ρυθμίζονται για πρώτη φορά πλήρως όλα τα προϊόντα με νικοτίνη· που μασώνται, καταπίνονται είτε προσλαμβάνονται κατά οιονδήποτε άλλον τρόπο.

Σύμφωνα με στοιχεία μελετών η κατανάλωση αλκοόλ από ανηλίκους είναι ένα σοβαρό πρόβλημα δημόσιας υγείας και μπορεί να τους προκαλέσει τεράστιους κινδύνους για την υγεία και την ασφάλεια.

Απαγόρευση πώλησης προϊόντων καπνού

Πλέον ρυθμίζονται πλήρως και απαγορεύονται ολοσχερώς στους ανήλικους όχι μόνον τα προϊόντα καπνού κάθε φύσης αλλά και τα φυτικά προϊόντα και κάθε άλλη ημι- ή συνθετική ουσία, που καπνίζεται θερμαίνεται ή ατμίζεται.

Ρυθμίζονται για πρώτη φορά πλήρως για όλους και απαγορεύονται στους ανηλίκους ολοσχερώς όλα τα προϊόντα με νικοτίνη· που μασώνται, καταπίνονται είτε προσλαμβάνονται κατά οιονδήποτε άλλον τρόπο.

Τίθενται αυστηρές προδιαγραφές των σημείων πώλησης κάθε είδους καπνικών και παρόμοιων προϊόντων, που θα διασφαλίζουν τον έλεγχο πρόσβασης ανηλίκων. Και γι' αυτά τα προϊόντα θα ισχύουν οι προβλέψεις περί της ταυτοποίησης της ηλικίας του πελάτη από τον πωλητή, όπως στο αλκοόλ.

Επίσης αλλάζει ο τρόπος ελέγχου των νέων προϊόντων, που εισάγονται στην αγορά και τίθενται σαφείς προδιαγραφές ασφαλείας. Δημιουργείται νέα ειδική μονάδα στον ΕΟΔΥ για τον έλεγχο των νέων καπνικών και συναφών προϊόντων.

Ρυθμίσεις αναμένεται να υπάρξουν και για τους ενηλίκους σε ό,τι αφορά την απαγόρευση της χρήσης τους σε κλειστούς και δημόσιους χώρους, όπως ηλεκτρονικά χωρίς νικοτίνη, καπνιζόμενα φυτικά με συμπερίληψη για πρώτη φορά της καναβιδιόλης, θερμαινόμενα χωρίς καπνό με ή χωρίς νικοτίνη, προϊόντα νικοτίνης pouches sticks.

Πηγή:www.cnn.gr