Básicamente por la fuerza gravitacional
Los planetas se formaron a partir de cúmulos de polvo estelar por la fuerza de gravedad.
Lo primero a entender es que las estrellas se formaron de nebulosas (polvo estelar), en donde ese polvo estelar en algunos lugares formaba cúmulos, y esos cúmulos atraían más cúmulos por pura fuerza gravitacional, en esencia congregándose alrededor de un solo punto más y más materia estelar, y es importante destacar que geométricamente la forma más óptima para que un grupo de lo que sea se congregue alrededor de un punto es una esfera (este efecto tiene un nombre científico, y se le llama un “ajuste isostático”).
Asimismo, entre los cúmulos que formaron la estrella (en nuestro caso, el Sol), y el resto de la nebulosa, quedaron otros cúmulos un poco más pequeños rotando alrededor del Sol, y esos cúmulos, por su propia atracción gravitacional, se formaron en planetas, y de forma similar, se formaron satélites.
Es curioso destacar que planetas gigantes gaseosos como Júpiter y Saturno inicialmente también estaban destinados a ser estrellas, pero no alcanzaron suficiente masa (para lograr fusión nuclear) y se quedaron como están, pero en otros sistemas solares, se da el caso de que conviven dos, o hasta tres o más estrellas en un mismo sistema solar (a esos se les llama sistema binarios o trinarios), y ya podrán imaginar lo extraño que deben ser los cielos vistos desde planetas en tales sistemas.
Es importante notar entonces que cuerpos celestes como planetas y estrellas por su propia naturaleza de cómo se forman (es decir, se forman por materia que paulatinamente se va a agregando a un centro gravitacional) no pueden ser de otra forma que esféricos, pero si utilizáramos la imaginación y asumimos que de la nada un mago crea un planeta en forma de cubo, ¿qué sucedería?
Pues con el tiempo, las esquinas de los cubos también sucumbirían ante la atracción gravitacional del centro del planeta, el cual es bueno aclarar tiene un centro muy viscoso, ya que incluso la roca sometida a altas presiones “se mueve” como si fuera miel, abriendo paso para que montañas extremadamente altas y pesadas (como las esquinas de nuestro hipotético planeta en forma de cubo) “caigan” hacia el centro del planeta.
Otra curiosidad es que debido a que los planetas giran sobre su eje, que este giro ejerce una fuerza orbital opuesta a la fuerza de la gravedad, que se siente más en el ecuador del planeta, lo que hace que los planetas y otros cuerpos celestes esféricos no sean perfectamente esféricos, sino que están ligeramente aplastados en los polos y más anchos en el ecuador.
Técnicamente hablando, se puede decir qué tan esférico es un cuerpo celeste dependiendo de la masa, tamaño y velocidad de rotación del cuerpo en cuestión.
Por último, un gran ejemplo de estos fenómenos son los meteoritos, pues estos tiene tamaños o que son muy pequeños como para que la fuerza de la gravedad no afecte su forma.
En el caso de los meteoritos, la fuerza de gravedad es tan débil que no hay ajuste y pueden tener formas caprichosas.