In mijn scriptie bespreek ik belangrijke bijdragen aan de hoofdvraag: kunnen we menselijke waarden programmeren in superintelligente machines? Ik geef een kritische reflectie op het werk Superintelligence: Paths, Dangers, Strategies van Nick Bostrom en haal daarbij verschillende filosofen en wetenschappers aan. Ik behandel concepten als intelligentie, kunstmatige intelligentie en superintelligentie. Ook kijk ik naar de gevaren die zich kunnen voordoen als we ons niet bezighouden met moraliteit binnen KI en de meta- en normatieve ethische vraag van machine moraliteit. Concluderend wijs ik de behandelde theorieën af als oplossingen en bespreek ik de nog te overbruggen horden.