Η Αμερική δεν είναι έτοιμη για τους πολέμους του μέλλοντος

- Advertisement -

Και είναι ήδη εδώ
Του Mark A. Milley και Eric Schmidt
Σεπτέμβριος/Οκτώβριος 2024 Δημοσιεύθηκε στις 5 Αυγούστου 2024

Foreign Affairs

Εικονογράφηση Sam Green

Στα πεδία των μαχών της Ουκρανίας, το μέλλον του πολέμου γίνεται γρήγορα παρόν. Χιλιάδες drones γεμίζουν τους ουρανούς. Αυτά τα drones και οι χειριστές τους χρησιμοποιούν συστήματα τεχνητής νοημοσύνης για να αποφύγουν εμπόδια και να εντοπίσουν πιθανούς στόχους. Τα μοντέλα τεχνητής νοημοσύνης βοηθούν επίσης την Ουκρανία να προβλέψει πού θα χτυπήσει. Χάρη σε αυτά τα συστήματα, οι Ουκρανοί στρατιώτες βγάζουν τανκς και καταρρίπτουν αεροπλάνα με καταστροφική αποτελεσματικότητα. Οι ρωσικές μονάδες βρίσκονται υπό συνεχή παρακολούθηση και οι γραμμές επικοινωνίας τους είναι επιρρεπείς σε εχθρικές διαταραχές – όπως και της Ουκρανίας. Και τα δύο κράτη αγωνίζονται να αναπτύξουν ακόμη πιο προηγμένες τεχνολογίες που μπορούν να αντιμετωπίσουν ανελέητες επιθέσεις και να ξεπεράσουν την άμυνα του αντιπάλου τους.

Ο πόλεμος στην Ουκρανία δεν είναι σχεδόν η μόνη σύγκρουση στην οποία η νέα τεχνολογία μεταμορφώνει τη φύση του πολέμου. Στη Μιανμάρ και στο Σουδάν, οι αντάρτες και η κυβέρνηση χρησιμοποιούν αμφότερες μη επανδρωμένα οχήματα και αλγόριθμους καθώς πολεμούν. Το 2020, ένα αυτόνομο μη επανδρωμένο αεροσκάφος τουρκικής κατασκευής που τέθηκε σε πτήση από στρατεύματα που υποστηρίζονται από την κυβέρνηση της Λιβύης χτύπησε μαχητές που υποχωρούσαν — ίσως η πρώτη επίθεση με μη επανδρωμένο αεροσκάφος που πραγματοποιήθηκε χωρίς ανθρώπινη συνδρομή.

Την ίδια χρονιά, ο στρατός του Αζερμπαϊτζάν χρησιμοποίησε μη επανδρωμένα αεροσκάφη τουρκικής και ισραηλινής κατασκευής, μαζί με περιπλανώμενα πυρομαχικά (εκρηκτικά σχεδιασμένα να αιωρούνται πάνω από έναν στόχο), για να καταλάβει τον αμφισβητούμενο θύλακα του Ναγκόρνο-Καραμπάχ.

Και στη Γάζα, το Ισραήλ έχει τοποθετήσει χιλιάδες drones συνδεδεμένα με αλγόριθμους τεχνητής νοημοσύνης, βοηθώντας τα ισραηλινά στρατεύματα να πλοηγηθούν στα αστικά φαράγγια της περιοχής.
Κατά μία έννοια, δεν υπάρχει τίποτα περίεργο για τον ρυθμό τέτοιων εξελίξεων. Ο πόλεμος ανέκαθεν ωθούσε σε καινοτομία. Αλλά οι σημερινές αλλαγές είναι ασυνήθιστα γρήγορες και θα έχουν πολύ μεγαλύτερο αποτέλεσμα.

Οι μελλοντικοί πόλεμοι δεν θα αφορούν πλέον ποιος μπορεί να συγκεντρώσει τους περισσότερους ανθρώπους ή να εξοπλίσει τα καλύτερα αεριωθούμενα, πλοία και τανκς. Αντίθετα, θα κυριαρχούνται από όλο και πιο αυτόνομα οπλικά συστήματα και ισχυρούς αλγόριθμους.

Δυστυχώς, αυτό είναι ένα μέλλον για το οποίο οι Ηνωμένες Πολιτείες παραμένουν απροετοίμαστες. Τα στρατεύματά τους δεν είναι πλήρως έτοιμα να πολεμήσουν σε ένα περιβάλλον στο οποίο σπάνια απολαμβάνουν το στοιχείο του αιφνιδιασμού. Τα αεριωθούμενα αεροπλάνα, τα πλοία και τα τανκς τους δεν είναι εξοπλισμένα για να αμυνθούν από μια επίθεση drones. Ο στρατός δεν έχει ακόμη αγκαλιάσει την τεχνητή νοημοσύνη. Το Πεντάγωνο δεν έχει σχεδόν αρκετές πρωτοβουλίες με στόχο την αποκατάσταση αυτών των αποτυχιών — και οι τρέχουσες προσπάθειές του προχωρούν πολύ αργά. Εν τω μεταξύ, ο ρωσικός στρατός έχει τοποθετήσει στην Ουκρανία πολλά μη επανδρωμένα αεροσκάφη που κινούνται με τεχνητή νοημοσύνη. Και τον Απρίλιο, η Κίνα ανακοίνωσε τη μεγαλύτερη στρατιωτική της αναδιάρθρωση εδώ και σχεδόν μια δεκαετία, με νέα έμφαση στη δημιουργία δυνάμεων με γνώμονα την τεχνολογία.
Αν θέλουν να παραμείνουν η εξέχουσα παγκόσμια δύναμη, οι Ηνωμένες Πολιτείες θα πρέπει να αλλάξουν γρήγορα πορεία. Η χώρα πρέπει να μεταρρυθμίσει τη δομή των ενόπλων της δυνάμεων. Ο στρατός των ΗΠΑ πρέπει να μεταρρυθμίσει τις τακτικές και την ανάπτυξη της ηγεσίας του. Χρειάζεται νέους τρόπους για την προμήθεια εξοπλισμού. Πρέπει να αγοράσει νέους τύπους εργαλείων. Και πρέπει να εκπαιδεύσει καλύτερα τους στρατιώτες να χειρίζονται drones και να χρησιμοποιούν τεχνητή νοημοσύνη.

Στους Αμερικανούς πολιτικούς, που έχουν συνηθίσει να κυβερνούν τον πιο ισχυρό αμυντικό μηχανισμό του κόσμου, μπορεί να μην αρέσει η ιδέα μιας τέτοιας συστημικής αναθεώρησης. Αλλά τα ρομπότ και η τεχνητή νοημοσύνη είναι εδώ για να μείνουν. Εάν οι Ηνωμένες Πολιτείες αποτύχουν να ηγηθούν αυτής της επανάστασης, οι κακόβουλοι παράγοντες εξοπλισμένοι με νέες τεχνολογίες θα γίνουν πιο πρόθυμοι να επιχειρήσουν επιθέσεις στις Ηνωμένες Πολιτείες.
Όταν το κάνουν, μπορεί να πετύχουν. Ακόμα κι αν επικρατήσει η Ουάσιγκτον, θα βρεθεί ολοένα και περισσότερο περικυκλωμένη από στρατιωτικά συστήματα που έχουν σχεδιαστεί για να υποστηρίζουν απολυταρχίες και αναπτύσσονται με ελάχιστο σεβασμό για τις φιλελεύθερες αξίες.

Οι Ηνωμένες Πολιτείες πρέπει επομένως να μεταμορφώσουν τις ένοπλες δυνάμεις τους, ώστε να μπορούν να διατηρήσουν ένα αποφασιστικό στρατιωτικό πλεονέκτημα – και να διασφαλίσουν ότι τα ρομπότ και η τεχνητή νοημοσύνη χρησιμοποιούνται με ηθικό τρόπο.

ΑΛΛΑΓΗ Ή ΕΞΑΦΑΝΙΣΗ

Η φύση του πολέμου είναι, αναμφισβήτητα, αμετάβλητη. Σχεδόν σε κάθε ένοπλη σύγκρουση, η μία πλευρά επιδιώκει να επιβάλει την πολιτική της βούληση στην άλλη μέσω οργανωμένης βίας. Οι μάχες δίνονται με ατελείς πληροφορίες. Οι στρατιώτες πρέπει να αντιμετωπίζουν διαρκώς κυμαινόμενες δυναμικές, μεταξύ άλλων στις τάξεις τους, μεταξύ αυτών και των κυβερνήσεών τους και μεταξύ αυτών και των απλών ανθρώπων. Τα στρατεύματα βιώνουν φόβο, αιματοχυσία και θάνατο. Αυτές οι πραγματικότητες είναι απίθανο να αλλάξουν ακόμη και με την εισαγωγή των ρομπότ.

Αλλά ο χαρακτήρας του πολέμου – πώς πολεμούν οι στρατοί, πού και πότε διεξάγονται οι μάχες και με ποια όπλα και τεχνικές ηγεσίας – μπορεί να εξελιχθεί. Μπορεί να αλλάξει ανάλογα με την πολιτική, τα δημογραφικά και τα οικονομικά. Ωστόσο, λίγες δυνάμεις φέρνουν περισσότερη αλλαγή από την τεχνολογική ανάπτυξη.

Η εφεύρεση των σελών και των πετάλων, για παράδειγμα, βοήθησε στη δημιουργία ιππικού τον ένατο αιώνα π.Χ., το οποίο επεξέτεινε το πεδίο της μάχης πέρα ​​από τις επίπεδες εκτάσεις που απαιτούνται για τα άρματα και σε νέους τύπους εδάφους. Η εισαγωγή του μακρού τόξου, το οποίο μπορούσε να εκτοξεύσει βέλη σε μεγάλες αποστάσεις, επέτρεψε στους μαχητές να τρυπήσουν βαριές πανοπλίες και να αποδεκατίσουν τους προελαύνοντες στρατούς από μακριά. Η εφεύρεση της πυρίτιδας τον 9ο αιώνα μ.Χ. οδήγησε στη χρήση εκρηκτικών και πυροβόλων όπλων. Σε απάντηση, οι μαχητές έχτισαν ισχυρότερες οχυρώσεις και έδωσαν μεγαλύτερη έμφαση στην παραγωγή όπλων. Η επίδραση της τεχνολογίας έγινε πιο έντονη με τη Βιομηχανική Επανάσταση, η οποία οδήγησε στη δημιουργία πολυβόλων, ατμόπλοιων και ασυρμάτων. Τελικά, οδήγησε επίσης σε μηχανοκίνητα και τεθωρακισμένα οχήματα, αεροπλάνα και πυραύλους.

Η απόδοση των στρατευμάτων εξαρτάται συχνά από το πόσο καλά προσαρμόζονται και υιοθετούν τις τεχνολογικές καινοτομίες. Κατά τη διάρκεια της Αμερικανικής Επανάστασης, για παράδειγμα, ο Ηπειρωτικός Στρατός εκτόξευσε μουσκέτες εναντίον των Βρετανών με μαζικές βόλες και στη συνέχεια έβαλε εμπρός με σταθερές ξιφολόγχες. Αυτή η τακτική ήταν επιτυχής επειδή οι ηπειρωτικές δυνάμεις μπόρεσαν να διασχίσουν τις αποστάσεις μεταξύ των αντίπαλων γραμμών πριν οι Βρετανοί επαναφορτωθούν. Όμως, από τον Εμφύλιο Πόλεμο, τα μουσκέτα είχαν αντικατασταθεί από τυφεκιές, οι οποίες χρειάζονταν πολύ λιγότερο χρόνο για να ξαναγεμίσουν και ήταν πιο ακριβείς. Ως αποτέλεσμα, οι αμυνόμενοι στρατοί κατάφεραν να αποδεκατίσουν το προελαύνον πεζικό. Οι στρατηγοί και στις δύο πλευρές προσάρμοσαν τις τακτικές τους — για παράδειγμα, χρησιμοποιώντας ελεύθερους σκοπευτές και αμυντικά οχυρώματα όπως χαρακώματα. Οι αποφάσεις τους άνοιξαν το δρόμο για τον πόλεμο των χαρακωμάτων του Α’ Παγκοσμίου Πολέμου.

Οι παραδοσιακές αμυντικές εταιρείες δεν θα σχεδιάσουν την επόμενη γενιά μικρών, φθηνών drones.

Η τεχνολογική προσαρμογή αποδείχθηκε επίσης απαραίτητη για τον Δεύτερο Παγκόσμιο Πόλεμο. Ενόψει αυτής της σύγκρουσης, όλες οι προηγμένες χώρες είχαν πρόσβαση στις τότε νέες τεχνολογίες των μηχανοκίνητων οχημάτων, των τεθωρακισμένων αρμάτων μάχης, των αεροσκαφών και του ασυρμάτου. Αλλά ο γερμανικός στρατός ήταν πρωτοπόρος όταν ήρθε να συγκεντρώσει αυτά τα στοιχεία. Το νέο τους δόγμα πολεμικών μαχών, που συνήθως ονομάζεται blitzkrieg (“πόλεμος κεραυνός”), περιελάμβανε αεροπορικούς βομβαρδισμούς που διέκοπταν τις επικοινωνίες και τις γραμμές ανεφοδιασμού, ακολουθούμενες από επιθέσεις τεθωρακισμένων οχημάτων και πεζικού που διαρρύγνυαν τις συμμαχικές γραμμές και στη συνέχεια περνούσαν πολύ μπροστά τους. Ως αποτέλεσμα, οι Γερμανοί μπόρεσαν να κατακτήσουν σχεδόν όλη την Ευρώπη σε 18 μήνες. Τους σταμάτησε στο Στάλινγκραντ, αλλά μόνο από έναν σοβιετικό στρατό που ήταν πρόθυμος να έχει τεράστιες απώλειες.

Για να απαντήσουν, οι Σύμμαχοι έπρεπε να αναπτύξουν παρόμοιες τακτικές και σχηματισμούς. Έπρεπε να απεικονίσουν αυτό που ένας από εμάς (Schmidt) ονόμασε «δύναμη καινοτομίας»: την ικανότητα να εφευρίσκουμε, να προσαρμόζουμε και να υιοθετούμε νέες τεχνολογίες πιο γρήγορα από τους ανταγωνιστές. Τελικά κατάφεραν να μηχανοποιήσουν τις δικές τους δυνάμεις, να αναπτύξουν καλύτερους τρόπους επικοινωνίας, να χρησιμοποιήσουν τεράστιες ποσότητες αεροπορικής δύναμης και, στην περίπτωση των Αμερικανών, να κατασκευάσουν και να χρησιμοποιήσουν τις πρώτες πυρηνικές βόμβες στον κόσμο. Στη συνέχεια μπόρεσαν να νικήσουν τον Άξονα σε πολλά θέατρα ταυτόχρονα.
Η προσπάθεια των Συμμάχων ήταν απίστευτη. Κι όμως έφτασαν ακόμα κοντά στην ήττα. Εάν η Γερμανία είχε διαχειριστεί πιο αποτελεσματικά τη βιομηχανική της ικανότητα, είχε κάνει καλύτερες στρατηγικές επιλογές ή είχε κερδίσει τις Ηνωμένες Πολιτείες στο ατομικό όπλο, το αρχικό πλεονέκτημα καινοτομίας του Βερολίνου θα μπορούσε κάλλιστα να είχε αποδειχθεί καθοριστικό. Η έκβαση του Β’ Παγκοσμίου Πολέμου μπορεί τώρα να φαίνεται προκαθορισμένη. Όμως, όπως φέρεται να είπε ο δούκας του Ουέλινγκτον για το αποτέλεσμα στο Βατερλώ πάνω από έναν αιώνα νωρίτερα, ήταν μια υπόθεση με πολύ μικρή διαφορά.

 ΚΑΤΑΣΤΑΣΗ ΕΤΟΙΜΟΤΗΤΑΣ ΓΙΑ ΑΜΕΣΗ ΔΡΑΣΗ
Ήταν συχνά δύσκολο για τους στρατιωτικούς σχεδιαστές να προβλέψουν ποιες καινοτομίες θα διαμορφώσουν τις μελλοντικές μάχες. Αλλά οι προβλέψεις είναι πιο εύκολο να γίνουν σήμερα. Τα drones είναι πανταχού παρόντα και τα ρομπότ χρησιμοποιούνται όλο και περισσότερο. Οι πόλεμοι στη Γάζα και την Ουκρανία έδειξαν ότι η τεχνητή νοημοσύνη αλλάζει ήδη τον τρόπο που πολεμούν τα κράτη.

Η επόμενη μεγάλη σύγκρουση πιθανότατα θα περιλαμβάνει την ενσωμάτωση της τεχνητής νοημοσύνης σε κάθε πτυχή του στρατιωτικού σχεδιασμού και εκτέλεσης.

Τα συστήματα τεχνητής νοημοσύνης θα μπορούσαν, για παράδειγμα, να προσομοιώσουν διαφορετικές τακτικές και επιχειρησιακές προσεγγίσεις χιλιάδες φορές, μειώνοντας δραστικά την περίοδο μεταξύ της προετοιμασίας και της εκτέλεσης. Ο κινεζικός στρατός έχει ήδη δημιουργήσει έναν διοικητή τεχνητής νοημοσύνης που έχει την ανώτατη εξουσία σε μεγάλης κλίμακας εικονικά πολεμικά παιχνίδια. Αν και το Πεκίνο απαγορεύει στα συστήματα τεχνητής νοημοσύνης να κάνουν επιλογές σε πραγματικές καταστάσεις, θα μπορούσε να πάρει τα μαθήματα που παίρνει από τις πολλές εικονικές προσομοιώσεις του και να τα προωθήσει σε ανθρώπους που λαμβάνουν αποφάσεις. Και η Κίνα μπορεί τελικά να δώσει στα μοντέλα τεχνητής νοημοσύνης την εξουσία να κάνουν επιλογές, όπως και άλλα κράτη.

Οι στρατιώτες θα μπορούσαν να πίνουν καφέ στα γραφεία τους, παρακολουθώντας οθόνες μακριά από το πεδίο της μάχης, καθώς ένα σύστημα AI διαχειρίζεται όλα τα είδη ρομποτικών πολεμικών μηχανών.

Η Ουκρανία έχει ήδη επιδιώξει να παραδώσει όσα περισσότερα επικίνδυνα καθήκοντα πρώτης γραμμής μπορεί στα ρομπότ για να διατηρήσει το σπάνιο ανθρώπινο δυναμικό.
Μέχρι στιγμής, η αυτοματοποίηση έχει επικεντρωθεί στη ναυτική ισχύ και στην αεροδυναμική με τη μορφή θαλάσσιων και αεροπορικών drones. Αλλά σύντομα θα στραφεί σε χερσαίο πόλεμο.

Στο μέλλον, η πρώτη φάση οποιουδήποτε πολέμου πιθανότατα θα καθοδηγείται από ρομπότ εδάφους ικανά για τα πάντα, από αναγνώριση έως άμεσες επιθέσεις.

Η Ρωσία έχει ήδη αναπτύξει μη επανδρωμένα οχήματα εδάφους που μπορούν να εκτοξεύουν αντιαρματικούς πυραύλους, χειροβομβίδες και drones. Η Ουκρανία έχει χρησιμοποιήσει ρομπότ για την εκκένωση των θυμάτων και την εξουδετέρωση εκρηκτικών. Η επόμενη γενιά μηχανών θα καθοδηγείται από συστήματα AI που χρησιμοποιούν τους αισθητήρες των ρομπότ για να χαρτογραφήσουν το πεδίο της μάχης και να προβλέψουν σημεία επίθεσης. Ακόμη και όταν τελικά επέμβουν άνθρωποι-στρατιώτες, θα καθοδηγούνται από εναέρια drones που μπορούν να βοηθήσουν στην αναγνώριση του εχθρού (όπως συμβαίνει ήδη στην Ουκρανία). Θα βασίζονται σε μηχανές για να καθαρίσουν ναρκοπέδια, να απορροφήσουν τα πρώτα βόλια του εχθρού και να εκθέσουν κρυμμένους αντιπάλους.

Εάν ο πόλεμος της Ρωσίας κατά της Ουκρανίας επεκταθεί και σε άλλα μέρη της Ευρώπης, ένα πρώτο κύμα ρομπότ και εναέριων αεροσκαφών θα μπορούσε να επιτρέψει τόσο στο ΝΑΤΟ όσο και στη Ρωσία να επιβλέπουν μια ευρύτερη γραμμή πρώτης γραμμής από αυτή που μπορούν να επιτεθούν ή να υπερασπιστούν μόνο οι άνθρωποι.

Η αυτοματοποίηση του πολέμου θα μπορούσε να αποδειχθεί απαραίτητη για τη σωτηρία αμάχων. Ιστορικά, οι πόλεμοι γίνονταν και κερδίζονταν σε ανοιχτό έδαφος όπου ζουν λίγοι άνθρωποι. Όμως, καθώς η παγκόσμια αστικοποίηση προσελκύει περισσότερους ανθρώπους στις πόλεις και οι μη κρατικοί φορείς στρέφονται στις τακτικές του αντάρτικου πόλεων, τα αποφασιστικά πεδία μάχης του μέλλοντος θα είναι πιθανότατα πυκνοκατοικημένες περιοχές. Τέτοιες μάχες είναι πολύ πιο θανατηφόρες και εντάσεως πόρων. Επομένως, θα απαιτηθούν ακόμη περισσότερα ρομποτικά όπλα. Οι στρατιώτες θα πρέπει να αναπτύξουν μικρά ρομπότ με δυνατότητα ελιγμών (όπως σκυλιά ρομπότ) στους δρόμους και να πλημμυρίσουν τον ουρανό με μη επανδρωμένα εναέρια οχήματα για να πάρουν τον έλεγχο των αστικών θέσεων. Θα καθοδηγούνται από αλγόριθμους, οι οποίοι μπορούν να επεξεργάζονται οπτικά δεδομένα και να λαμβάνουν αποφάσεις σε κλάσματα δευτερολέπτου. Το Ισραήλ βοήθησε στην πρωτοπορία μιας τέτοιας τεχνολογίας, χρησιμοποιώντας το πρώτο πραγματικό σμήνος drone στη Γάζα το 2021. Αυτά τα μεμονωμένα drones παρέκαμψαν την άμυνα της Χαμάς και επικοινωνούσαν μέσω ενός οπλικού συστήματος τεχνητής νοημοσύνης για να λάβουν συλλογικές αποφάσεις σχετικά με το πού πρέπει να πάνε.

Ουκρανοί στρατιώτες προσαρτούν μια αντιαρματική νάρκη σε ένα drone, Chasiv Yar, Ουκρανία, Ιούνιος 2024
Inna Varenytsia / Reuters

Η χρήση μη επανδρωμένων όπλων είναι απαραίτητη και για έναν άλλο λόγο: είναι φθηνά. Τα drones είναι μια πολύ πιο προσιτή κατηγορία όπλων από τα παραδοσιακά στρατιωτικά αεροσκάφη. Ένα drone MQ-9 Reaper, για παράδειγμα, κοστίζει περίπου το ένα τέταρτο απο όσο ένα μαχητικό αεροσκάφος F-35. Και το MQ-9 είναι ένα από τα πιο ακριβά τέτοια όπλα.

Ένα απλό drone με προβολή πρώτου προσώπου [Το FPV, First Person View drone είναι ένα μη επανδρωμένο εναέριο όχημα (UAV) με κάμερα που μεταδίδει ασύρματα τροφοδοσία βίντεο σε γυαλιά, ακουστικά, κινητή συσκευή ή άλλη οθόνη. Ο χρήστης έχει μια προβολή πρώτου προσώπου (FPV) του περιβάλλοντος όπου πετάει το drone και μπορεί να τραβήξει βίντεο ή φωτογραφίες] μπορεί να κοστίσει μόλις 500 δολάρια. Μια ομάδα δέκα από αυτά μπορεί να ακινητοποιήσει ένα ρωσικό τανκ 10 εκατομμυρίων δολαρίων στην Ουκρανία. (Τους τελευταίους μήνες, περισσότερα από τα δύο τρίτα των ρωσικών αρμάτων μάχης που έχει χτυπήσει η Ουκρανία καταστράφηκαν από τέτοια drones.) Αυτή η οικονομική προσιτότητα θα μπορούσε να επιτρέψει στα κράτη να στέλνουν σμήνη drones—κάποια σχεδιασμένα για επιτήρηση, άλλα για επίθεση—χωρίς να ανησυχούν περί φθοράς. Αυτά τα σμήνη θα μπορούσαν στη συνέχεια να κατακλύσουν τα παλαιά συστήματα αεράμυνας, τα οποία δεν έχουν σχεδιαστεί για να καταρρίπτουν ταυτόχρονα εκατοντάδες αντικείμενα. Ακόμη και όταν κυριαρχούν τα αμυντικά συστήματα, το κόστος της άμυνας ενάντια στα σμήνη θα ξεπεράσει κατά πολύ το κόστος της επίθεσης για τον εχθρό.

Η μαζική επίθεση με drone και πυραύλους του Ιράν τον Απρίλιο κατά του Ισραήλ κόστισε το πολύ 100 εκατομμύρια δολάρια, αλλά οι προσπάθειες αναχαίτισης των ΗΠΑ και του Ισραήλ στοίχισαν περισσότερα από 2 δισεκατομμύρια δολάρια.

Η οικονομική προσιτότητα αυτών των όπλων, φυσικά, θα κάνει την προσβολή πολύ πιο εύκολη – με τη σειρά της θα ενδυναμώσει τους λιτούς, μη κρατικούς παράγοντες. Το 2016, οι τρομοκράτες του Ισλαμικού Κράτους (ISIS) χρησιμοποίησαν φθηνά μη επανδρωμένα αεροσκάφη για να αντιμετωπίσουν τις προελεύσεις που υποστηρίζονταν από τις ΗΠΑ στη συριακή πόλη Ράκα και την πόλη της Μοσούλης του Ιράκ, ρίχνοντας πυρομαχικά μεγέθους χειροβομβίδας από τον ουρανό και δυσκολεύοντας τις Συριακές Δημοκρατικές Δυνάμεις να τοποθετηθούν. επάνω σε θέσεις αντισκοπευτών. Σήμερα, αντάρτες που υποστηρίζονται από το Ιράν χρησιμοποιούν μη επανδρωμένα αεροσκάφη για να χτυπήσουν αεροπορικές βάσεις των ΗΠΑ στο Ιράκ. Και οι Χούτι, η στρατιωτική ομάδα που ελέγχει μεγάλο μέρος της Υεμένης, στέλνουν drones για να χτυπήσουν πλοία στην Ερυθρά Θάλασσα. Οι επιθέσεις τους έχουν τριπλασιάσει το κόστος μεταφοράς από την Ασία στην Ευρώπη. Άλλες ομάδες θα μπορούσαν σύντομα να μπουν στη δράση. Η Χεζμπολάχ και η Αλ Κάιντα στη Μέση Ανατολή, για παράδειγμα, ενδέχεται να εμπλακούν σε περισσότερες περιφερειακές επιθέσεις, όπως η Μπόκο Χαράμ στη Νιγηρία και η Αλ Σαμπάμπ αλλού στην Αφρική.
Τα drones βοηθούν ομάδες πέρα ​​από τη Μέση Ανατολή και την Αφρική, επίσης. Ένας συνασπισμός υπέρ της δημοκρατίας και εθνοτικών πολιτοφυλακών στη Μιανμάρ χρησιμοποιεί επανασχεδιασμένα εμπορικά μη επανδρωμένα αεροσκάφη για να πολεμήσει την κάποτε φοβερή αεροπορία της στρατιωτικής χούντας. Τώρα, ελέγχει πάνω από τη μισή επικράτεια της χώρας. Η Ουκρανία έχει χρησιμοποιήσει παρομοίως drones με μεγάλη επιτυχία, ιδιαίτερα τον πρώτο χρόνο του πολέμου.

Σε περίπτωση κινεζικής αμφίβιας επίθεσης, τα drones θα μπορούσαν να βοηθήσουν και την Ταϊβάν. Αν και το Πεκίνο είναι απίθανο να εξαπολύσει πλήρη επίθεση στο νησί τα επόμενα χρόνια, ο Κινέζος πρόεδρος Xi Jinping διέταξε τον στρατό της χώρας του να είναι σε θέση να εισβάλει στην Ταϊβάν έως το 2027. Για να σταματήσει μια τέτοια επίθεση, η Ταϊβάν και οι σύμμαχοί της θα πρέπει να χτυπήσουν έναν τεράστιος αριθμός εχθρικών σκαφών εισβολής μέσα σε πολύ σύντομο χρονικό διάστημα. Τα μη επανδρωμένα συστήματα —σε ξηρά, θάλασσα και αέρα— ίσως είναι ο μόνος τρόπος για να γίνει αυτό αποτελεσματικά.
Ως αποτέλεσμα, οι σύμμαχοι της Ταϊβάν θα πρέπει να προσαρμόσουν τα όπλα που χρησιμοποιούνται στην Ουκρανία σε ένα νέο είδος πεδίου μάχης. Σε αντίθεση με τους Ουκρανούς, οι οποίοι έχουν πολεμήσει ως επί το πλείστον στη γη και στον αέρα, οι Ταϊβανέζοι θα βασίζονται σε υποβρύχια drones και αυτόνομες θαλάσσιες νάρκες που μπορούν να μετακινηθούν γρήγορα στη μάχη. Και τα εναέρια drones τους θα πρέπει να είναι ικανά για μεγαλύτερους χρόνους πτήσης σε μεγαλύτερα τμήματα του ωκεανού. Οι δυτικές κυβερνήσεις εργάζονται για την ανάπτυξη τέτοιων drones και μόλις αυτά τα νέα μοντέλα είναι έτοιμα, η Ταϊβάν και οι σύμμαχοί της πρέπει να τα κατασκευάσουν μαζικά.

ΚΑΝΕ ΤΟ
Κανένα κράτος δεν είναι πλήρως προετοιμασμένο για μελλοντικούς πολέμους. Καμία χώρα δεν έχει αρχίσει να παράγει το υλικό που χρειάζεται για όπλα ρομπότ σε κλίμακα, ούτε κάποιο κράτος έχει δημιουργήσει το λογισμικό που απαιτείται για την πλήρη τροφοδοσία των αυτοματοποιημένων όπλων. Αλλά ορισμένες χώρες είναι πιο μακριά από άλλες. Και δυστυχώς, οι αντίπαλοι των Ηνωμένων Πολιτειών είναι, από πολλές απόψεις, πρωτοπόροι. Η Ρωσία, έχοντας αποκτήσει εμπειρία στην Ουκρανία, έχει αυξήσει δραματικά την παραγωγή drones της και τώρα χρησιμοποιεί μη επανδρωμένα οχήματα για μεγάλη επίδραση στο πεδίο της μάχης. Η Κίνα κυριαρχεί στην παγκόσμια αγορά εμπορικών drone: η κινεζική εταιρεία DJI ελέγχει περίπου το 70 τοις εκατό της παγκόσμιας παραγωγής εμπορικών drone. Και λόγω της αυταρχικής δομής της Κίνας, ο κινεζικός στρατός έχει αποδειχθεί ιδιαίτερα επιδέξιος στο να προωθήσει αλλαγές και να υιοθετήσει νέες έννοιες. Η μια, που ονομάζεται «πολυπεδικός πόλεμος ακριβείας», συνεπάγεται τη χρήση προηγμένης νοημοσύνης, αναγνώρισης και άλλων αναδυόμενων τεχνολογιών από τον Λαϊκό Απελευθερωτικό Στρατό για τον συντονισμό της ισχύος πυρός.
Όσον αφορά την τεχνητή νοημοσύνη, οι Ηνωμένες Πολιτείες εξακολουθούν να διαθέτουν τα υψηλότερα ποιοτικά συστήματα και ξοδεύουν τα περισσότερα για αυτά. Ωστόσο, η Κίνα και η Ρωσία κερδίζουν γρήγορα έδαφος. Η Ουάσιγκτον έχει τους πόρους για να συνεχίσει να  ξοδεύει υπερβολικά, αλλά ακόμα κι αν διατηρήσει αυτό το προβάδισμα, θα μπορούσε να δυσκολευτεί να ξεπεράσει τα γραφειοκρατικά και βιομηχανικά εμπόδια για την ανάπτυξη των εφευρέσεών της στο πεδίο της μάχης. Ως αποτέλεσμα, ο στρατός των ΗΠΑ κινδυνεύει να πολεμήσει έναν πόλεμο στον οποίο η πρώτης τάξεως εκπαίδευση και τα ανώτερα συμβατικά όπλα θα καταστεί λιγότερο αποτελεσματική.

Τα στρατεύματα των ΗΠΑ, για παράδειγμα, δεν είναι πλήρως προετοιμασμένα να επιχειρήσουν σε ένα πεδίο μάχης όπου μπορεί να εντοπιστεί κάθε τους κίνηση και όπου μπορούν να στοχοποιηθούν γρήγορα από τα drones που αιωρούνται από πάνω.

Αυτή η απειρία θα ήταν ιδιαίτερα επικίνδυνη σε ανοιχτά πεδία μάχης όπως αυτά στην Ουκρανία, καθώς και σε άλλες χώρες της Ανατολικής Ευρώπης ή στις μεγάλες εκτάσεις της Αρκτικής. Ο στρατός των ΗΠΑ θα ήταν επίσης ιδιαίτερα ευάλωτος στα αστικά πεδία μάχης, όπου οι εχθροί μπορούν να κόψουν ευκολότερα τις γραμμές επικοινωνίας των ΗΠΑ και όπου πολλά αμερικανικά όπλα είναι λιγότερο χρήσιμα.
Ακόμη και στη θάλασσα, οι Ηνωμένες Πολιτείες θα ήταν ευάλωτες στις προόδους των αντιπάλων τους. Κινεζικοί υπερηχητικοί πύραυλοι θα μπορούσαν να βυθίσουν τα αμερικανικά αεροπλανοφόρα πριν φτάσουν στο Περλ Χάρμπορ. Το Πεκίνο ήδη αναπτύσσει συστήματα επιτήρησης και ηλεκτρονικού πολέμου με τεχνητή νοημοσύνη που θα μπορούσαν να του δώσουν αμυντικό πλεονέκτημα έναντι των Ηνωμένων Πολιτειών σε ολόκληρο τον Ινδο-Ειρηνικό. Στον αέρα, το ικανό αλλά δαπανηρό F-35 μπορεί να έρθει σε αντιπαράθεση ενάντια σε σμήνη φθηνών drones. Το ίδιο και τα βαριά θωρακισμένα τανκς Abrams και Bradley στο έδαφος. Δεδομένων αυτών των ατυχών γεγονότων, οι στρατιωτικοί σχεδιαστές των ΗΠΑ έχουν δίκιο που κατέληξαν στο συμπέρασμα ότι η εποχή των εκστρατειών «σοκ και δέους» -στην οποία η Ουάσιγκτον θα μπορούσε να αποδεκατίσει τους αντιπάλους της με συντριπτική δύναμη πυρός- έχει τελειώσει.

Στο χειρότερο σενάριο, ο πόλεμος με τεχνητή νοημοσύνη θα μπορούσε να θέσει σε κίνδυνο την ανθρωπότητα.

Για να αποφευχθεί η απαρχαίωση, ο αμερικανικός στρατός πρέπει να κάνει μεγάλες μεταρρυθμίσεις. Μπορεί να ξεκινήσει ανακινώντας τις διαδικασίες για την απόκτηση λογισμικού και όπλων. Η τρέχουσα διαδικασία αγορών της είναι πολύ γραφειοκρατική, αποστρέφεται τον κίνδυνο και αργεί να προσαρμοστεί στις ταχέως αναπτυσσόμενες απειλές του μέλλοντος. Για παράδειγμα, βασίζεται σε δεκαετείς κύκλους προμηθειών, οι οποίοι μπορούν να τον δεσμεύσουν σε συγκεκριμένα συστήματα και συμβάσεις πολύ καιρό μετά την εξέλιξη της υποκείμενης τεχνολογίας. Αντίθετα, θα πρέπει να συντάσσει συντομότερες προσφορές όποτε είναι δυνατόν.
Ομοίως, οι Ηνωμένες Πολιτείες πρέπει να αναζητήσουν αγορές από ένα ευρύτερο σύνολο εταιρειών από αυτό που χρησιμοποιούν συνήθως. Το 2022, η Lockheed Martin, η RTX, η General Dynamics, η Boeing και η Northrop Grumman έλαβαν πάνω από το 30 τοις εκατό του συνόλου των χρημάτων των συμβάσεων του Υπουργείου Άμυνας. Οι νέοι κατασκευαστές όπλων, αντίθετα, δεν έλαβαν σχεδόν καθόλου. Πέρυσι, λιγότερο από το ένα τοις εκατό όλων των συμβάσεων του Υπουργείου Άμυνας κατευθύνθηκε σε εταιρείες που υποστηρίζονται από επιχειρήσεις, οι οποίες είναι γενικά πιο καινοτόμες από τις μεγαλύτερες αντίστοιχές τους. Αυτά τα ποσοστά πρέπει να είναι πολύ πιο ίσα.

Η επόμενη γενιά μικρών, φθηνών drones είναι απίθανο να σχεδιαστεί από παραδοσιακές αμυντικές εταιρείες, οι οποίες έχουν κίνητρα να παράγουν φανταχτερό αλλά ακριβό εξοπλισμό.

Είναι πιο πιθανό να δημιουργηθούν όπως στην Ουκρανία: μέσω μιας κυβερνητικής πρωτοβουλίας που υποστηρίζει δεκάδες μικρές νεοφυείς επιχειρήσεις. (Ένας από εμάς, ο Schmidt, υπήρξε μακροχρόνιος επενδυτής σε εταιρείες αμυντικής τεχνολογίας.)
Για να προσαρμοστούν στο μέλλον, ωστόσο, οι Ηνωμένες Πολιτείες θα χρειαστεί να κάνουν περισσότερα από το να μεταρρυθμίσουν, απλώς, τον τρόπο με τον οποίο αγοράζουν όπλα. Πρέπει επίσης να αλλάξουν τις οργανωτικές δομές και τα συστήματα εκπαίδευσης του στρατού. Θα πρέπει να καταστήσουν πιο ευέλικτη την σύνθετη, ιεραρχική αλυσίδα διοίκησης και να δώσουν μεγαλύτερη αυτονομία σε μικρές, υψηλής κινητικότητας μονάδες. Αυτές οι μονάδες θα πρέπει να έχουν ηγέτες εκπαιδευμένους και εξουσιοδοτημένους να λαμβάνουν κρίσιμες αποφάσεις μάχης. Τέτοιες μονάδες θα είναι πιο ευκίνητες – ένα κρίσιμο πλεονέκτημα δεδομένου του γρήγορου ρυθμού του πολέμου που λειτουργεί με AI. Είναι επίσης λιγότερο πιθανό να παραλύσουν εάν οι αντίπαλοι διακόψουν τις γραμμές επικοινωνίας τους με τα κεντρικά γραφεία. Αυτές οι μονάδες πρέπει να συνδέονται με νέες πλατφόρμες, όπως drones, ώστε να είναι όσο το δυνατόν πιο αποτελεσματικές. (Τα αυτόνομα συστήματα μπορούν επίσης να βοηθήσουν στη βελτίωση της εκπαίδευσης.) Οι ειδικές δυνάμεις των ΗΠΑ είναι ένα πιθανό πρότυπο για το πώς θα μπορούσαν να λειτουργήσουν αυτές οι μονάδες.

ΚΙΝΔΥΝΟΙ ΚΑΙ ΑΝΤΑΜΟΙΒΕΣ

Αυτή η νέα εποχή του πολέμου θα έχει κανονιστικά πλεονεκτήματα. Η πρόοδος στην τεχνολογία ακριβείας θα μπορούσε να οδηγήσει σε λιγότερους αδιάκριτους βομβαρδισμούς και επιθέσεις πυροβολικού, ενώ τα drones μπορούν να σώσουν τη ζωή των στρατιωτών στη μάχη. Αλλά τα ποσοστά των απωλειών αμάχων στη Γάζα και την Ουκρανία δημιουργούν αμφιβολίες για την ιδέα ότι οι συγκρούσεις γίνονται όλο και λιγότερο θανατηφόρες – ειδικά καθώς μετακινούνται σε αστικές περιοχές. Και η έλευση του πολέμου AI ανοίγει ένα κουτί της Πανδώρας με ηθικά και νομικά ζητήματα. Ένα αυταρχικό κράτος, για παράδειγμα, θα μπορούσε εύκολα να πάρει συστήματα τεχνητής νοημοσύνης που έχουν σχεδιαστεί για να συλλέγουν πληροφορίες σε μάχη και να τα αναπτύσσουν εναντίον διαφωνούντων ή πολιτικών αντιπάλων. Το DJI της Κίνας, για παράδειγμα, έχει συνδεθεί με παραβιάσεις των ανθρωπίνων δικαιωμάτων κατά των Κινέζων Ουιγούρων και η παραστρατιωτική ομάδα Wagner που συνδέεται με τη Ρωσία βοήθησε τον στρατό του Μάλι να πραγματοποιήσει επιθέσεις με drone εναντίον αμάχων. Αυτές οι ανησυχίες δεν περιορίζονται στους αντιπάλους των ΗΠΑ.

Ο ισραηλινός στρατός έχει χρησιμοποιήσει ένα πρόγραμμα τεχνητής νοημοσύνης που ονομάζεται Lavender για να εντοπίσει πιθανούς μαχητές και να στοχεύσει τα σπίτια τους με αεροπορικές επιδρομές στην πυκνοκατοικημένη Γάζα. Το πρόγραμμα έχει ελάχιστη ανθρώπινη εποπτεία. Σύμφωνα με το περιοδικό +972, οι άνθρωποι ξοδεύουν μόλις 20 δευτερόλεπτα για να εξουσιοδοτήσουν κάθε επίθεση.

Στο χειρότερο σενάριο, ο πόλεμος με τεχνητή νοημοσύνη θα μπορούσε να θέσει σε κίνδυνο ακόμη και την ανθρωπότητα.

Παιχνίδια πολέμου που διεξάγονται με μοντέλα τεχνητής νοημοσύνης από τα OpenAI, Meta και Anthropic έχουν βρει ότι τα μοντέλα τεχνητής νοημοσύνης τείνουν να κλιμακώνονται ξαφνικά σε κινητικό πόλεμο, συμπεριλαμβανομένου του πυρηνικού πολέμου, σε σύγκριση με παιχνίδια που διεξάγονται από ανθρώπους. Δεν χρειάζεται πολλή φαντασία για να δούμε πώς τα πράγματα θα μπορούσαν να πάνε τρομερά στραβά εάν αυτά τα συστήματα τεχνητής νοημοσύνης χρησιμοποιούνταν πραγματικά.

Το 1983, ένα σοβιετικό σύστημα ανίχνευσης πυραύλων εσφαλμένα θεώρησε ταξινομημένο φως που αντανακλάται από τα σύννεφα ως επερχόμενη πυρηνική επίθεση. Ευτυχώς, ο σοβιετικός στρατός είχε έναν άνθρωπο στρατιώτη υπεύθυνο για την επεξεργασία του συναγερμού, ο οποίος έκρινε ότι η προειδοποίηση ήταν ψευδής. Αλλά στην εποχή της τεχνητής νοημοσύνης, μπορεί να μην υπάρχει άνθρωπος για να ελέγξει ξανά τη δουλειά του συστήματος.

Ευτυχώς, η Κίνα και οι Ηνωμένες Πολιτείες φαίνεται να αναγνωρίζουν ότι πρέπει να συνεργαστούν για την τεχνητή νοημοσύνη. Μετά τη σύνοδο κορυφής τους τον Νοέμβριο του 2023, ο Πρόεδρος των ΗΠΑ Τζο Μπάιντεν και ο Σι δεσμεύτηκαν να συζητήσουν από κοινού θέματα κινδύνου και ασφάλειας της τεχνητής νοημοσύνης και ο πρώτος γύρος συνομιλιών έλαβε χώρα στη Γενεύη τον Μάιο. Αυτός ο διάλογος είναι απαραίτητος. Ακόμα κι αν η συνεργασία μεταξύ των δύο υπερδυνάμεων είναι μικρή, ίσως δεν επιτυγχάνει τίποτα περισσότερο από την καθιέρωση κοινής γλώσσας σχετικά με τη χρήση της τεχνητής νοημοσύνης στον πόλεμο, θα μπορούσε να θέσει τα θεμέλια για κάτι μεγαλύτερο. Κατά τη διάρκεια του Ψυχρού Πολέμου -μιας εποχής αντιπαλότητας μεγάλων δυνάμεων πολύ πιο έντονου από τον σημερινό ανταγωνισμό ΗΠΑ-Κίνας- η Σοβιετική Ένωση και οι Ηνωμένες Πολιτείες μπόρεσαν να οικοδομήσουν ένα ισχυρό καθεστώς μέτρων πυρηνικής ασφάλειας. Και όπως οι Σοβιετικοί, οι Κινέζοι αξιωματούχοι έχουν κίνητρα να συνεργαστούν με την Ουάσιγκτον για τον έλεγχο νέων όπλων. Οι Ηνωμένες Πολιτείες και η Κίνα έχουν διαφορετικά παγκόσμια οράματα, αλλά καμία από τις δύο δεν θέλει οι τρομοκράτες να αποκτήσουν στην κατοχή τους επικίνδυνα ρομπότ. Μπορεί επίσης να θέλουν να σταματήσουν άλλα κράτη από το να αποκτήσουν τέτοια τεχνολογία. Οι μεγάλες δυνάμεις που διαθέτουν τρομερή στρατιωτική τεχνολογία έχουν σχεδόν πάντα επικαλυπτόμενο συμφέρον να την κρατήσουν για τον εαυτό τους.
Ακόμα κι αν η Κίνα δεν συνεργαστεί, οι Ηνωμένες Πολιτείες θα πρέπει να διασφαλίσουν ότι η δική τους στρατιωτική τεχνητή νοημοσύνη υπόκειται σε αυστηρούς ελέγχους. Θα πρέπει να διασφαλίσουν ότι τα συστήματα τεχνητής νοημοσύνης μπορούν να διακρίνουν μεταξύ στρατιωτικών και πολιτικών στόχων. Πρέπει να τα κρατήσει υπό ανθρώπινο έλεγχο. Θα πρέπει να δοκιμάζουν και να αξιολογούν συνεχώς τα συστήματα για να επιβεβαιώνουν ότι λειτουργούν όπως προβλέπεται σε πραγματικές συνθήκες. Και οι Ηνωμένες Πολιτείες θα πρέπει να πιέσουν άλλες χώρες – συμμάχους και αντιπάλους – να υιοθετήσουν παρόμοιες διαδικασίες. Εάν άλλα κράτη αρνηθούν, η Ουάσιγκτον και οι εταίροι της θα πρέπει να χρησιμοποιήσουν οικονομικούς περιορισμούς για να περιορίσουν την πρόσβασή τους σε στρατιωτική τεχνητή νοημοσύνη. Η επόμενη γενιά αυτόνομων όπλων πρέπει να κατασκευαστεί σύμφωνα με τις φιλελεύθερες αξίες και τον παγκόσμιο σεβασμό των ανθρωπίνων δικαιωμάτων—και αυτό απαιτεί επιθετική ηγεσία των ΗΠΑ.
Ο πόλεμος είναι άσχημος, βάναυσος και συχνά πολύ μακρύς. Είναι ψευδαίσθηση να πιστεύουμε ότι η τεχνολογία θα αλλάξει την υποκείμενη ανθρώπινη φύση της σύγκρουσης. Αλλά ο χαρακτήρας του πολέμου αλλάζει τόσο γρήγορα όσο και θεμελιωδώς. Οι Ηνωμένες Πολιτείες πρέπει να αλλάξουν και να προσαρμοστούν, επίσης, και οι Αμερικανοί αξιωματούχοι πρέπει να το κάνουν πιο γρήγορα από τους αντιπάλους της χώρας τους. Η Ουάσιγκτον δεν θα το κάνει ακριβώς σωστά – αλλά πρέπει να το κάνει λιγότερο λάθος από τους εχθρούς της.

• Ο MARK A. MILLEY υπηρέτησε ως Πρόεδρος του Joint Chiefs of Staff από το 2019 έως το 2023. Είναι επισκέπτης καθηγητής στο Πανεπιστήμιο του Princeton και Distinguished Fellow in Residence στο Georgetown University School of Foreign Service.

Ο ERIC SCHMIDT είναι Πρόεδρος του Ειδικού Έργου Ανταγωνιστικών Σπουδών και πρώην Διευθύνων Σύμβουλος και Πρόεδρος της Google. Είναι συν-συγγραφέας, με τον Henry Kissinger και τον Daniel Huttenlocher, του The Age of AI: And Our Human Future.

Foreign Affairs

spot_img

1 ΣΧΟΛΙΟ

  1. Κε Σαββίδη, δεν φαίνεται να έχετε ξεκάθαρη αντίληψη σχετικά με το τι είναι άρθρο, παρά την δημοσιογραφική σας πείρα. Για ξανακοιτάξτε τα βασικά της δημοσιογραφίας.

ΑΦΗΣΤΕ ΜΙΑ ΑΠΑΝΤΗΣΗ

εισάγετε το σχόλιό σας!
παρακαλώ εισάγετε το όνομά σας εδώ

This site uses Akismet to reduce spam. Learn how your comment data is processed.

Διαβάστε ακόμα

Stay Connected

2,900ΥποστηρικτέςΚάντε Like
2,767ΑκόλουθοιΑκολουθήστε
37,300ΣυνδρομητέςΓίνετε συνδρομητής
- Advertisement -

Τελευταία Άρθρα