Siendo el mayor de los hermanos, su futuro y su deber estaban en el cultivo de la tierra y, como  "heredero", en suceder un día a su padre en la explotación familiar. Y hasta los dieciocho años alternará el estudio en la escuela local con los trabajos en el campo, ayudando a su familia. Pero muy pronto se manifiesta su vocación por los libros y por la agricultura.

Desde pequeño despierta en él la pasión por el conocimiento y la lectura, y busca cualquier ocasión para satisfacer esa pasión con los muy limitados medios de que dispone. Desde 1864 va anotando en un diario todos sus sentimientos, vivencias y reflexiones, lo que constituye una extraordinaria guía biográfica que nos permite conocer profundamente al joven Costa. En relación con esa pasión por los libros, anota en el Nosce te ipsum: "Mi afición a los libros era desmesurada. Los que yo podía encontrar en Graus ni servían ni bastaban a llenar este deseo infinito de saber que bullía en mi alma. [...] Es para mí un espectáculo la humanidad mía en su infancia recortada con mi libro bajo la cepa de la viña, a la sombra del nogal del campo, sobre la yerba de los ribazos, al sol de la colina o encima de la cama. Unas veces apacentando mi asno, otras tomando el sol. [...] Aún me parece verme marchar con un libro debajo de la chaqueta a un punto escondido donde nadie me encuentre para que pueda mejor saborear mi lectura". Esta vocación por el estudio entrará pronto en conflicto con las obligaciones derivadas de su condición de heredero del patrimonio familiar.

Costa fue un adolescente infeliz; aunque no da muchos detalles de su desventura, se pueden entrever sus razones. Como confiesa en sus Memorias,  sus recuerdos de esos años en Graus no son precisamente felices: "Lo restante de mi vida desde seis a diecisiete años lo pasé en Graus, en donde el pundonor me ha hecho beber hasta las heces del cáliz de la amargura. ¡No me detendré en trasladar aquí estos años que tristes y lentos han pasado para mí!".

La adolescencia de Costa es conflictiva y atormentada, la de un muchacho de gran inteligencia e inquietudes espirituales que vive contradictoriamente su amor por su familia, su tierra y la agricultura y su rechazo de un mundo social que lo ahoga por limitado y que siente que no puede ser el suyo para siempre. Una melancólica soledad será la tónica de esos años de primera juventud. Este conflicto lo lleva a abandonar Graus para ir a estudiar y trabajar a Huesca en diciembre de 1863, a los diecisiete años de edad, tras varios intentos fallidos, por la oposición paterna, de búsqueda de distintas salidas-huidas.

Al final, la pasión por el estudio se impone sobre las obligaciones familiares y Costa decide ir a Huesca a trabajar para  poder estudiar en su Instituto, no sin experimentar un profundo desgarro interior: "en Graus yo no podía vivir de ningún modo porque el pundonor […]. Llegó diciembre y, como no podía ya respirar por más tiempo el ambiente estrecho de Graus, quise sentar plaza  […]  de soldado… ¡Oh guerra!…, consoladora para mí… ¡Oh muerte!… que cobarde huías ante mí cuanto más te perseguía como cobarde liebre… Un suicidio tal vez...".

La marcha a Huesca será vivida con una profunda herida personal y de sentimiento de culpa por el abandono de los suyos a su suerte y su alejamiento del hogar familiar y de sus responsabilidades como heredero del patrimonio familiar. El Costa que abandona Graus es un adolescente retardado, con fuertes raíces pequeñocampesinas propias de su entorno familiar y comarcal, profundamente religioso, con claros prejuicios antiliberales heredados del ambiente carlista de origen.