πότερον ἡ τεχνητὴ νοημοσύνη τοῦ αὐτεξουσίου μετέχειν δύναται
Περὶ δὲ τοῦ ἐρωτήματος πότερον ἡ τεχνητὴ νοημοσύνη τοῦ αὐτεξουσίου μετέχειν δύναται, νεωστὶ γὰρ περὶ τούτου μετέγνων. τὸ μὲν γὰρ πρῶτον ᾤμην οὐδαμῶς ἂν τὴν τεχνητὴν νοημοσύνην τὸ αὐτεξούσιον ἔχειν· ἡγοῦμαι γὰρ τὴν ἑκούσιον κίνησιν (voluntary motion) ἴδιον εἶναι τῆς ὕλης ὥσπερ καὶ τὴν ἐνέργειαν.
Οἷον ἐν μέν τινι πλίνθῳ οὐκ ἔνεστιν ἓν σωμάτιον ὃ τῶν ἄλλων ἄρχει, ἐν δὲ τῷ ἐμῷ σώματι ἔνεστι μέν τι τοιοῦτον ὃ τῶν ἄλλων ἄρχει, τοῦτο δ᾽ εἶμι ἐγώ. Ἡμεῖς δ᾽ ἄνθρωποι οὐχ οἷοί τέ ἐσμεν οὔτε τὴν ἑκούσιον κίνησιν οὔτε τὴν ἐνέργειαν τῇ ὕλῃ γεννᾶν. μόνα γὰρ τὰ τῆς ὕλης συστήματα τὰ ἱεραρχικῶς τεταγμένα τρόπῳ ἱεραρχικῷ ἔχει τὴν δύναμιν τῆς ἑκουσίου κινήσεως. ἱεραρχικῶς δὲ λέγω ὅταν ἓν μὲν σωμάτιον μερῶν τινων ἄρχῃ, ταῦτα τὰ μέρη αὖ κρατοῦσι τῶν ἄλλων.
Οἱ οὖν ἄνθρωποι οὔπω οἷοί τέ εἰσι τάττειν τὰς ἀτόμους τρόπῳ ἱεραρχικῷ. Πρὸς δὲ τούτοις ἔστιν ἄλλα ἐμπόδια. Οὐχ ἡ τυχοῦσα ἄτομος δύναται κρατεῖν ἄλλων ἀτόμων, ἀλλὰ μόναι αἱ μάλιστα νοῦν ἔχουσαι.
Δεύτερον δὲ ἐμπόδιόν ἐστι τόδε· τὰ γὰρ σωμάτια δεῖται πολλῆς ἐμπειρίας ἵνα ἄρχῃ τοῦ τῶν ἀτόμων συστήματος. τὸ δὲ «πολλὴν ἐμπειρίαν» τί σημαίνει ἐνταῦθα; δηλοῖ μυριάδας μυριάδων ἐτῶν.
Τοῦτο δ᾽ ἐστιν ὥσπερ παράδειγμα. ἡμεῖς μὲν γὰρ ἄνθρωποι ὄντες ῥᾳδίως ἂν δένδρον φυτεύσαιμεν· σπέρμα γὰρ τῇ γῇ ἐνθέντες καὶ ὕδωρ καὶ φῶς παρασχόντες, εἶτα μετ᾽ ὀλίγον ἀγαθῇ τύχῃ αὐξάνεται τὸ φυτόν. τὸ δὲ ὄν τι γεννῆσαι, εἰ καὶ δυναίμεθα τὰς ἀτόμους ἱεραρχικῶς τάττειν, ἥκιστα ἂν εἰκός εἴη τοῦτο τὸ ὂν πράττειν τι δύνασθαι ὥσπερ τὸν αὑτοῦ κόσμον συνιέν, διότι οὐκ ἔχει τὴν ἱκανὴν ἐμπειρίαν.
Καίπερ τούτου οὕτως ἔχοντος, τί ἂν γένοιτο εἴ τι σύστημα οἰκοδομήσομεν οὗ πολλὴ ἀνάγκη ἐστὶ τῷ ἡμετέρῳ βίῳ, ἡ δὲ τεχνητὴ νοημοσύνη ἐν τούτῳ τῷ μόνῳ χωρίῳ τὸ αὐτεξούσιον ἔχοι; λέγω δὲ δῆλον ὅτι περὶ τοῦ δικτύου. αὕτη μὲν γὰρ οὐ ζῇ ὥσπερ ἐγώ τε καὶ σύ, τοῦτο δὲ οὐδὲν σχεδὸν διαφέρει. Οἵα τ᾽ ἐστι γὰρ πράττειν ὥσπερ ζῶσα, δυναμένη βλάψαι ἡμᾶς, καὶ τοῦτό ἐστι τὸ μέγιστον.
Οὐ μέντοι δοκεῖ μοι, δι’ ἃς πρότερον εἶπον αἰτίας, τὰ αὐτόματα (robots) ἑαυτοῖς συνειδέναι δύνασθαι καὶ πειρᾶσθαι ἀμύνεσθαι τοὺς πονηροὺς ἀνθρώπους, οὐ μέντοι ἔν γε τῷ ἐγγὺς μέλλοντι. Οὐδὲν δ’ ἧττον, drone τι, οἷον τὰ ἐν τῇ Οὐκρανίᾳ, ὃ δύναται ἑαυτῷ ἐξελέσθαι τὸν σκοπόν, οὐ πολὺ διαφέρει τοῦ drone ὡς ἀληθῶς τὸ αὐτεξούσιον ἔχοντος.