Η OpenAI κυκλοφόρησε αυτή την εβδομάδα δύο νέα APIs για προγραμματιστές, που δείχνουν πώς οι εταιρείες τεχνητής νοημοσύνης (ΤΝ) αναθεωρούν την τιμολόγησή τους καθώς τα προϊόντα τους μετατοπίζονται από μεμονωμένες ερωτήσεις-απαντήσεις σε αυτόνομους πράκτορες (agents) που λειτουργούν για μεγάλα χρονικά διαστήματα.
Στις 11 Σεπτεμβρίου, η OpenAI κυκλοφόρησε σε δημόσια beta έκδοση ένα Agents API, σύμφωνα με το The Decoder. Το API επιτρέπει στους προγραμματιστές να δημιουργούν agents στο cloud που λειτουργούν για παρατεταμένα διαστήματα, εκτελούν κώδικα, επεξεργάζονται αρχεία, αναθέτουν εργασίες σε υπο-agents και καλούν εργαλεία παράλληλα, χρησιμοποιώντας την ίδια υποδομή που τροφοδοτεί τα Codex και ChatGPT της εταιρείας, με υποστήριξη για το Model Context Protocol, προσαρμοσμένες συναρτήσεις και ενσωματωμένα εργαλεία όπως η αναζήτηση στο διαδίκτυο. Οι προγραμματιστές μπορούν να φιλοξενήσουν τους agents είτε σε sandboxes της ίδιας της OpenAI είτε μέσω συνεργατών όπως οι Cloudflare, Vercel και Oracle. Δεν υπάρχουν πρόσθετες χρεώσεις για την υπηρεσία και η χρέωση βασίζεται αποκλειστικά στη χρήση tokens, σύμφωνα με το The Decoder.
Μία ημέρα νωρίτερα, στις 10 Σεπτεμβρίου, η OpenAI παρουσίασε το GPT-Live-1, ένα API φωνής με τιμή 0,05 δολάρια το λεπτό που επιτρέπει σε εφαρμογές να «ακούν» και να «μιλούν» ταυτόχρονα, σύμφωνα με το The Decoder. Η εταιρεία δήλωσε ότι το μοντέλο μειώνει την καθυστέρηση εναλλαγής ομιλίας στα 0,8 δευτερόλεπτα, από 1,4 δευτερόλεπτα στο προηγούμενο μοντέλο πραγματικού χρόνου, και ανέφερε ως πρώιμο χρήστη την Yelp, η οποία το χρησιμοποιεί για τηλεφωνικές κρατήσεις. Το The Decoder ανέφερε επίσης βελτιώσεις σε μετρήσεις της ίδιας της OpenAI: ταυτόχρονη αμφίδρομη αλληλεπίδραση (full duplex) στο 80,1% έναντι 45,4% για το προηγούμενο μοντέλο GPT-Realtime-2.1 και ακρίβεια κλήσης εργαλείων 87%, από 60%.
Οι ανταγωνιστές τιμολογούν βάσει αποθηκευμένου περιεχομένου, όχι ακατέργαστων tokens
Οι κυκλοφορίες αυτές ακολουθούν ανάλογη κίνηση της Anthropic, η οποία μείωσε κατά 75% την τιμή των αναγνώσεων από cache για το μοντέλο Claude Fable 5.1, από 1,00 σε 0,25 δολάρια ανά εκατομμύριο tokens, σύμφωνα με το VentureBeat. Η Anthropic δήλωσε ότι η αλλαγή μειώνει το πραγματικό κόστος κατά περίπου 25% για τυπικούς φόρτους εργασίας και έως και 45% για «σε μεγάλο βαθμό agentic φόρτους εργασίας», καθώς οι agents επαναλαμβάνουν συχνά την ανάγνωση των ίδιων οδηγιών συστήματος, ορισμών εργαλείων και ιστορικού συνομιλίας αντί να θέτουν μεμονωμένα ερωτήματα. Οι βασικές τιμές εισόδου και εξόδου tokens για το Fable 5.1 παρέμειναν αμετάβλητες σε σχέση με το Fable 5, στα 10 και 50 δολάρια ανά εκατομμύριο tokens αντίστοιχα.
Δύο διαφορετικοί μοχλοί, μία κατεύθυνση
Συνολικά, οι τρεις αυτές κυκλοφορίες δείχνουν ότι οι εταιρείες ανταγωνίζονται λιγότερο στις βασικές τιμές ανά token και περισσότερο στον τρόπο με τον οποίο μετριέται εξαρχής η χρήση. Το Agents API της OpenAI διατηρεί ένα ενιαίο μέτρο βασισμένο σε tokens ανεξάρτητα από τη διάρκεια λειτουργίας ενός agent, ενώ το GPT-Live-1 χρεώνει ανά λεπτό για συνεχείς φωνητικές συνεδρίες. Η Anthropic, από την πλευρά της, μειώνει την τιμή του μηχανισμού του αποθηκευμένου περιεχομένου (cache), που καθορίζει μεγάλο μέρος του πραγματικού κόστους λειτουργίας ενός αυτόνομου agent για προγραμματισμό ή έρευνα.
Καμία από τις τρεις εταιρείες δεν έχει δημοσιεύσει ανεξάρτητες, ελεγμένες συγκρίσεις του πραγματικού κόστους εργασιών υπό τη νέα τιμολόγηση. Οι προγραμματιστές που δημιουργούν agents που λειτουργούν επί ώρες ή ημέρες αναμένεται να παρακολουθούν πώς εξελίσσονται οι πραγματικοί λογαριασμοί χρήσης, όχι μόνο οι επίσημες τιμές, καθώς αυξάνεται η υιοθέτηση.