سفينه مِسنجر (Messenger) در قطب‌هاي سياره عطارد اولين و نزديك‌ترين سياره به خورشيد، تركيب‌هاي حاوي كربن و همچنين آب را شناسايي كرده است. اينجا و روي زمين با كاوش در عمق حدود 20 متري در زير سطح يخ‌زده يك درياچه دور افتاده در قطب جنوب، دانشمندان مجموعه‌اي از باكتري‌هايي را كشف كردند كه در يكي از تاريك‌ترين، سردترين و شورترين زيست بوم‌هاي كره زمين زندگي مي‌كردند و همچنين مريخ‌نورد كنجكاوي در حال آغاز جستجو براي يافتن نشانه‌هايي از فسيل ميكروبي در نمونه‌هاي خاك سياره مريخ است.اما اين كاوشگران فضايي مغزهايي ساخته شده از مواد نيمه رسانا همچون سيليكون، ژرمانيوم و گاليوم دارند. به عبارت ديگر اين ماشين‌ها، محصولاتي با هوش مصنوعي هستند كه درك مي‌كنند، تصميم مي‌گيرند و مشورت مي‌كنند.ديدن همين ربات‌ها كه هر روز باهوش‌تر و مستقل‌تر مي‌شوند ايده احتمال وجود ربات‌هاي شروري كه انسان‌ها را قتل‌عام خواهند كرد و بر آنها غالب خواهند شد را به وجود آورد و دستمايه داستان فيلم‌ها و كتاب‌هاي علمي- تخيلي بسياري گرديد. چهره نيمه‌انسان نيمه ربات هنرپيشه فيلم نابودگر به نمادي كه يادآور ترس از ماشين‌هاي شرور و افسار گسيخته است تبديل شد. ماشين‌هايي كه از كنترل انسان‌ خارج شده‌اند و به دشمني در مقابل سازنده‌شان قدعلم كرده‌اند.تا يك دهه پيش در بدترين حالت، برداشت منفي‌اي كه از رايانه‌ها داشتيم برخوردن به يك برنامه مزاحم روي دستگاه بود، اما واقعيتي كه در دنياي امروز ما در جريان است به‌طور گسترده‌اي در حال رسيدن به افكار نويسندگان علمي - تخيلي است. برخي آينده‌گران هشدار داده‌اند تكنولوژي و پيشرفت‌هاي ما اين پتانسيل را دارند كه بقا و حيات خودمان را به روشي كه هرگز در تاريخ بشر سابقه نداشته است تهديد كنند. اين احتمال وجود دارد كه در آينده نه چندان دورلحظه‌اي بسيار غيرمترقبه و شگفت‌آور پديد آيد كه گريزناپذير است.اخيرا اعلام شد گروهي از استادان برجسته و پيشتاز دانشگاه كمبريج در حال بنا نهادن مركز مطالعاتي به نام اختصاري CSER هستند تا تهديد‌ غالب شدن ربات‌هاي هوشمند به بشر را مورد بررسي قرار دهند.موضوع اسير شدن انسان به دست ربات‌ها شايد هيچ گاه در تاريخ بشر چنان جدي گرفته نشده بود؛ از طرفي هم قرار نيست تا پايان امسال اين فاجعه رخ دهد، اما كيهان شناس برجسته به نام مارتين رِس كه يكي از موسسان مركز CSER است در كتابي با نام «آخرين قرن ما» كه 9 سال پيش منتشر شده است پيش‌بيني كرده نسل بشر تا قبل از سال 2100 ميلادي به كلي نابود و منقرض خواهد شد.ربات‌هاي آدمكش در ميان چند دليل كه براي پايان جهان ذكر شده‌اند از همه جدي‌تر به نظر مي‌رسد و گروه متخصصان كمبريج به طور شاخصي نگران اهميت موضوع هستند. به غير از اينها همچنين تغييرات آب و هوايي، جنگ اتمي و زيست فناوري منحرف شده هم موارد ديگر تهديد‌كننده نسل بشر خوانده مي‌شوند.CSER در گزارشي عنوان مي‌كند كه بسياري از دانشمندان نگران هستند كه پيشرفت‌ دانش‌ و فناوري‌ بشري ممكن است در آينده نه چندان دور تهديدهاي جديدي پديد آورد كه توانايي فراواني براي انقراض بشر در چنته دارد. چنين خطراتي بر اساس پيشرفت در هوش مصنوعي، بيوتكنولوژي، نانوتكنولوژي و انسان‌هاي سايبري و همچنين از اثرات سوء احتمالي تغييرات آب و هوايي متاثر از دخالت انسان در طبيعت نشأت گرفته است. ارزيابي عمق و جديت اين تهديدها دشوار است، اما به‌طور كلي آنقدر جدي است كه نگراني دانشمندان عضو CSER را موجب شده است.

اولين قانون رباتيك آيزاك آسيموف، نويسنده علمي - تخيلي سرشناس بيان مي‌دارد يك ربات نه تنها نبايد به بشريت آسيبي برساند، بلكه اجازه هم ندارد در قبال آسيب رسيدن به انسان‌ دخالت نكرده يا خودش را خاموش كند. اما ظاهرا خود بشر اولين كسي بوده كه اين قانون‌ها را زير پا گذاشته است. زيرا خيلي وقت است كنترل‌شونده‌هاي از راه دور نابودگري را ساخته‌ايم كه با پيشرفت بيشتر هوش مصنوعي مي‌توانند كم‌كم به شكارچيان مستقل رباتيكي بدل شوند. در حال حاضر بعضي از ارتش‌هاي دنيا رباتي انسان‌نما را در اختيار دارند كه مي‌تواند تا سرعت 29 كيلومتر بر ساعت بدود. به اين ترتيب گروهان پياده نظام سربازان رباتيك چندان دور از ذهن به نظر نمي‌رسد.سال 2030 ميلادي، مغزهاي الكترونيكي درون چنين ماشين‌هايي يك ميليون بار قدرتمندتر از ريزپردازنده‌هاي امروزي خواهند بود. فكر مي‌كنيد تا كي و چه ميزاني چنين اَبَر ماشين‌هاي هوشمند انسان‌هاي خودخواه و تماميت‌خواه را تحمل خواهند كرد؟ آيا روزي خواهد رسيد كه آنها به بشر به عنوان يك رقيب نگاه كنند؟ايروينگ جان گوود (Irving John Good) رياضيدان بريتانيايي، سال 1965 مقاله‌اي را به رشته تحرير در آورده كه در آن پيش بيني مي‌كند ربات‌ها آخرين اختراعي خواهند بود كه انسان آن را انجام داده‌ است. بگذاريد يك ماشين فوق پيشرفته را ماشيني توصيف كنيم كه مي‌تواند تمامي فعاليت‌هاي هوشمندانه و عقلاني را كه بشر تا به حال انجام داده، پشت سر بگذارد. از آنجا كه طراحي ماشين‌ها يكي از بخش‌هاي فعاليت‌هاي عقلاني است، بنابراين يك ماشين فوق پيشرفته مي‌تواند ماشين‌هاي خيلي بهتري را طراحي كند. به اين ترتيب مسلما يك انفجار هوشي اتفاق خواهد افتاد كه هوش بشر در رقابت با آن با فاصله‌اي بسيار زياد، عقب‌تر از ماشين‌ها باقي خواهد ماند.بيل جوي يكي از موسسان و دانشمند ارشد شركت Sun Microsystems در سال 2000مي‌نويسد: انرژي دگرگون‌كننده عظيمي در حال رها‌شدن است. اين پيشرفت‌ها براي اولين‌بار درها را به سوي باز طراحي احتمالي كلي جهان بازخواهد كرد كه شايد بهتر يا بدتر از دنياي كنوني ما باشد. دانش و نبوغ همانقدر كه مفيدند، سلاح‌هاي مهلكي هم مي‌توانند باشند.هانس موراوِك، رئيس انستيتو رباتيك در دانشگاه كارنِجي ملون (Carnegie Mellon) پنسيلوانيا اين قضيه را به شكل ساده‌تري بيان كرده است: ربات‌ها در نهايت بر بشر پيروز مي‌شوند و انسان‌ به آساني با پديده شوم انقراض روبه‌رو خواهد شد.چنين ماشين‌هايي فناناپذيرند و قادر خواهند بود در محيط بسيار خشني كه انسان تاب مقاومت در آن را ندارد به زندگي ديجيتالي خود ادامه دهند. آنها نيازي به تشكيل سياره‌هاي مستعمره براي فرار از عواقب گرمايش زمين ندارند و اين نظريه كه يك سياره قابل زيست براي تغذيه و زندگي موجودات زنده پيدا كنند، برايشان كاملا بي‌معنا و بي‌مفهوم خواهد بود.ربات‌ها فقط وقتي نياز باشد بازسازي و دوباره سازي مي‌شوند. بنابراين كهكشان هرگز موجي از مهاجرت را به خود نخواهد ديد. با وجود ابر باهوش بودن، پردازش‌هاي فكريشان كاملا خوب و متفاوت خواهد بود. بيگانگان هوشمند موجودات هوشيار و بيداري خواهند بود كه عظيم و سرد خو هستند و حس همدردي ندارند.تنها اميدمان براي يافتن ماشين‌هاي ابر هوشمند پيدا كردن مداركي موجود از فعاليت‌هاي تكنولوژيك‌شان است، ولي نوع فعاليت مهندسي كه چنين موجوداتي درگيرش هستند براحتي قابل درك نيست. جالب آن است كه مغزهاي سيليكوني قطعا هيچ انگيزه‌اي براي برقراري ارتباط با ما نخواهند داشت. وقتي از يك ربات براي ارتباط سوال شود، ممكن است از خود بپرسد من چه چيزي براي گفتن يا شنيدن از يك انسان دارم؟يكي از جالب‌ترين گمانه‌زني‌ها در مورد اختلاف غير قابل اجتناب ميان انسان‌ها و ماشين‌ها به يكي از فيلم‌هاي سينمايي سال 2001 با نام «هوش مصنوعي» برمي‌گردد، فيلمي كه در بخشي از آن بين دو كاراكتر ربات انسان‌نما اين ديالوگ رد و بدل مي‌شود: «انسان‌ها ما را با سرعت زياد، در تعداد بالا و بسيار هوشمند توليد كردند. ما به خاطر اشتباهاتي كه انسان‌ها مرتكب شده‌اند زجر مي‌كشيم، اما در پايان اين ما هستيم كه باقي خواهيم ماند.»