Ομάδα μαθηματικών ίδρυσε το Mathematical AI Safety Institute (MAISI), ερευνητικό οργανισμό που στοχεύει στην ανάπτυξη αυστηρών μαθηματικών αποδείξεων για την ασφάλεια της τεχνητής νοημοσύνης (ΤΝ), κατά τον τρόπο που οι κρυπτογράφοι αποδεικνύουν ότι ένα σύστημα κρυπτογράφησης δεν μπορεί να παραβιαστεί. Επιστημονικός διευθυντής είναι ο Jacob Tsimerman, βραβευμένος με το Μετάλλιο Fields το 2026 και καθηγητής μαθηματικών στο Πανεπιστήμιο του Τορόντο, ο οποίος εντάσσεται παράλληλα στην ομάδα ασφάλειας της OpenAI, σύμφωνα με το the-decoder.com. Εκτελεστικός διευθυντής είναι ο Andrew Critch, κάτοχος διδακτορικού στα μαθηματικά από το UC Berkeley, και επιχειρησιακός διευθυντής ο Jake Ross, πρώην COO της Encultured AI.
Μαθηματική προσέγγιση στην ασφάλεια
Στον ιστότοπό του, το MAISI περιγράφεται ως ανεξάρτητος μη κερδοσκοπικός οργανισμός που αναπτύσσει μαθηματικά θεμέλια για την ασφάλεια ισχυρών συστημάτων ΤΝ και αναφέρει ότι «η ανθρωπότητα αξίζει μια μαθηματικά τεκμηριωμένη περιγραφή της υπαρξιακής ασφάλειας για τις νέες τεχνολογίες ΤΝ» (σε απόδοση από τα αγγλικά). Στο επιστημονικό συμβουλευτικό σώμα συμμετέχουν ο Ravi Vakil, καθηγητής στο Stanford και πρόεδρος της American Mathematical Society από το 2025, ο Timothy Gowers, βραβευμένος με Μετάλλιο Fields το 1998 και κάτοχος της έδρας Combinatoire στο Collège de France, ο Geoffrey Irving, συνιδρυτής και επικεφαλής επιστήμονας της Resolution, και ο Paul Christiano, διευθυντής του Alignment Research Center. Στο διοικητικό συμβούλιο μετέχουν οι μαθηματικοί του Πανεπιστημίου του Τορόντο Arul Shankar και Yevgeny Liokumovich.
Στους στόχους του ινστιτούτου περιλαμβάνονται η ανάπτυξη εργαλείων όπως οι αποδείξεις μηδενικής γνώσης (zero-knowledge proofs), που θα επέτρεπαν σε συστήματα ΤΝ να αποδεικνύουν την ακεραιότητά τους χωρίς να αποκαλύπτουν εμπορικά απόρρητα των εργαστηρίων, ο καθορισμός σαφών θεωρητικών ορισμών για το τι σημαίνει «ασφαλές», και η αποτροπή ανεπιθύμητων αποτελεσμάτων όταν πολλοί πράκτορες (agents) ΤΝ αλληλεπιδρούν μεταξύ τους. Ο Tsimerman δήλωσε στους New York Times, σε δημοσίευμα που αναμετέδωσε το the-decoder.com, ότι ο κλάδος χρειάζεται «ένα πολύ, πολύ υψηλότερο επίπεδο προτύπου ασφάλειας από αυτό που έχουμε σήμερα» (σε απόδοση από τα αγγλικά).
Προσλήψεις και χρονοδιάγραμμα
Το MAISI, με έδρα την ευρύτερη περιοχή του Σαν Φρανσίσκο, αναζητεί δέκα έως τριάντα ερευνητές για ένα πρώτο εξάμηνο που ξεκινά τον Ιανουάριο του 2027 και τριάντα έως εκατό για ειδικό πρόγραμμα («special year») που αρχίζει τον Σεπτέμβριο του 2027. Ο οργανισμός δεν δημοσιοποιεί χρηματοδότες ή προϋπολογισμό στον ιστότοπό του.
Η ίδρυση προσθέτει μια διακριτή φωνή σε μια συζήτηση που μέχρι σήμερα καθοδηγείται κυρίως από τις εσωτερικές ομάδες ασφάλειας των εργαστηρίων ΤΝ και από ερευνητές πολιτικής, και λιγότερο από μαθηματικούς. Το the-decoder.com επισημαίνει και τη βασική δυσκολία της προσέγγισης: σε αντίθεση με ένα σύστημα κρυπτογράφησης, όπου η ιδιότητα που πρέπει να αποδειχθεί ορίζεται με ακρίβεια, τα προβλήματα ασφάλειας της ΤΝ εμφανίζονται συνήθως μόνο στην πράξη και δεν υπάρχει κοινά αποδεκτός θεωρητικός ορισμός του «ασφαλούς».