Qual seria sua opinião se inventassem um software capaz de pensar e fazer escolhas por conta própria?

Eu sou um estudante de programação, as vezes olho para os meus códigos e penso na possibilidade de criar um ser consciente.
Talvez um dia a inteligência artificial se torne isso.