Si vamos a wp-admin->Ajustes->Escritura podemos ver una opción que permite establecer la categoría a la que se asiganrán los posts si no se selecciona ninguna al crear/guardar un post. Esta es la llamada categoría por defecto o categoría predeterminada y su ID queda almacenado en la opción default_category de la tabla wp_options. Como cualquier otra opción en WordPress, se puede obtener su valor con la función get_option():

$default_category = get_option( 'default_category' );

Ejemplo

Vamos a construir un <select> en el que la categoría por defecto esté preseleccionada. Se puede hacer fácilmente utilizando la función wp_dropdown_categories() estableciendo el argumento selected con el valor de get_option('default_category'):

$args = array(
    'hide_empty' => 0,
    'name'       => 'category_name',
    'selected'   => get_option('default_category');
);

wp_dropdown_categories( $args );