Η τεχνητή νοημοσύνη εξελίσσεται από απλό εργαλείο παραγωγικότητας σε βασική υποδομή για τον επιχειρηματικό κόσμο. Παράλληλα όμως με την ευρεία υιοθέτησή της, διογκώνεται ένα σημαντικό πρόβλημα που αφορά το υψηλό λειτουργικό κόστος. Καθώς κάθε αίτημα προς ένα προηγμένο μοντέλο συνεπάγεται υπολογιστικές δαπάνες, η μαζική χρήση AI εκτοξεύει τους εταιρικούς προϋπολογισμούς.
Για την αντιμετώπιση αυτής της πρόκλησης, αναπτύσσεται στην αγορά μια νέα κατηγορία τεχνολογίας: οι model routers ή AI routers. Πρόκειται για συστήματα που εκτελούν χρέη «διαχειριστή» ανάμεσα στον χρήστη και τα διάφορα μοντέλα τεχνητής νοημοσύνης.
Αντί μια επιχείρηση να διοχετεύει όλα τα αιτήματα στο ίδιο και ακριβότερο σύστημα, ο router αξιολογεί τη δυσκολία του κάθε αιτήματος και επιλέγει αυτόματα το πλέον κατάλληλο.
Η λογική του συστήματος είναι απλή αλλά αποτελεσματική: μια σύνθετη εργασία απαιτεί ένα κορυφαίο μοντέλο AI, ενώ για μια απλή μετάφραση, σύνοψη ή ταξινόμηση δεδομένων αρκεί ένα φθηνότερο εργαλείο. Ο router επιτυγχάνει έτσι τη βέλτιστη ισορροπία ανάμεσα στην ποιότητα, την ταχύτητα και το κόστος, στοιχείο κρίσιμο για τις επιχειρήσεις που περνούν πλέον από το στάδιο των δοκιμών στη μαζική εφαρμογή.
Ορισμένοι εργαζόμενοι στη γερμανική φαρμακευτική εταιρεία Bayer δημιουργούν ήδη κόστος που ξεπερνά τα 5.000 ευρώ τον μήνα από τη χρήση εργαλείων AI.
Σύμφωνα με το Handelsblatt, η Bayer στράφηκε στη χρήση model routers ακριβώς για να θέσει υπό έλεγχο αυτές τις αυξημένες δαπάνες. Η εξέλιξη αυτή διαμορφώνει μια νέα παράλληλη αγορά γύρω από την τεχνητή νοημοσύνη. Ενώ η προσοχή στρεφόταν μέχρι τώρα στις εταιρείες που αναπτύσσουν τα μεγάλα γλωσσικά μοντέλα, πλέον αποκτούν κομβική σημασία οι προμηθευτές των υποδομών που αποφασίζουν ποιο μοντέλο θα χρησιμοποιηθεί και πότε.
Το ζητούμενο για τις επιχειρήσεις δεν είναι πλέον απλώς η υιοθέτηση της AI, αλλά η διασφάλιση της οικονομικής της βιωσιμότητας.
Η μάχη στον κλάδο της τεχνητής νοημοσύνης μετατοπίζεται πλέον από το ποιος διαθέτει το ισχυρότερο μοντέλο στο ποιος μπορεί να προσφέρει το καλύτερο αποτέλεσμα με τη χαμηλότερη δυνατή δαπάνη.