W badaniu, przeprowadzonym w Max Planck Institute for Human Development (ang. ds. Rozwoju Człowieka) próbowano wykorzystać obliczenia, aby przewidzieć bezpieczeństwo AI. Chodziło o AI inteligentniejsze niż wszystkie istoty ludzkie i mające dostęp do Internetu, gdzie może się samodzielnie uczyć i kontrolować inne maszyny w sieci. Grupa badaczy próbowała stworzyć algorytm, który zablokowałby dalsze działanie AI, jeśli okazałoby się ono szkodliwe dla ludzi. Okazało się, że taki algorytm jest niemożliwy do stworzenia - a obecnie nikt nie jest w stanie określić, czy AI może nam wyrządzić krzywdę czy nie.
artykuł