Validez de una rúbrica para medir competencias investigativas en pedagogía desde la socioformación
Validity of a rubric to measure research competences in pedagogy from the socioformation
Artículo de investigación
Juan Martin Ceballos-Almeraya1
almeraya_6@hotmail.com
Sergio Tobón2
stobon@gmail.com
RESUMEN:
El objetivo de este estudio fue analizar la validez de constructo de una rúbrica para evaluar competencias investigativas de la licenciatura en pedagogía. El instrumento se aplicó a una muestra de 250 estudiantes de pedagogía y áreas afines y el análisis de realizó mediante un método multivariado (análisis factorial exploratorio). Los resultados indicaron la representación de todos los ítems en tres factores correspondiéndose con lo propuesto teóricamente (el desarrollo de proyectos de investigación, metodología de un proyecto de investigación y normas de estilo APA). Estos resultados demuestran la validez de constructo del instrumento tal.
ABSTRACT:
The objective of this study was to analyze the construction validity of a rubric to evaluate research competencies of the undergraduate in pedagogy. The instrument was applied to a sample of 250 students of Pedagogy and related areas and the analysis was carried out using a multivariate method (exploratory factorial analysis). The results indicated the representation of all the items in three factors corresponding to what was theoretically proposed (the development of research projects, research project methodology and APA style standards). These results demonstrate the construction validity of such instrument.
Palabras clave: validez de constructo, análisis factorial, rúbrica de evaluación.
Keywords: construct validity, factor analysis, evaluation rubric.
INTRODUCCIÓN
La transformación de la sociedad de la información a una sociedad del conocimiento, donde el uso de la tecnología de la información y el conocimiento (TIC) ha propiciado no únicamente la búsqueda, manejo, organización y almacenamiento de la información, sino también la generación de nuevos conocimientos a partir de ésta, como parte de la resolución de problemas en la vida diaria desde una perspectiva innovadora (Tobón, Guzmán, Hernández, & Cardona, 2015), motiva a que la educación se abra a todas las posibilidades de transformación del discente en su proceso de formación, sobre todo en la adquisición de nuevas competencias académicas, laborales y profesionales, como las investigativas, que permiten al estudiante de pedagogía, ser partícipe del equilibrio de una sociedad más justa y abierta a la diversidad de propuestas de mejora a su práctica docente investigativa futura, donde se unan o fusionen la docencia, la ciencia y la investigación pedagógica (Cruz, 2015).
Al revisar el concepto de competencias investigativas se llegó a la conclusión de que no existe un concepto único (Reiban, De la Rosa & Zeballos, 2017), por lo que éstas pueden interpretarse como habilidades o como capacidades. Revisando la investigación de Correa (2017), se afirma que deben basarse en la capacidad de resolución de problemas, la capacidad para descifrar y entender un contenido complejo del área de estudio, la capacidad para fundamentar y argumentar un punto de vista; la capacidad de interpretar datos válidos y confiables, así como el conocimiento apropiado para aproximarse a un problema de investigación.
De acuerdo a Álvarez & Arias (2016), la definición de competencias investigativas se realiza desde la movilización de saberes actitudinales, que corresponde al saber ser, a los saberes conceptuales, que se refiere al saber conocer, y a los saberes procedimentales, que son las habilidades que se desarrollan para saber hacer, que en conjunto permiten la creación y la transmisión de conocimientos para la solución a problemas específicos mediante aportaciones teóricas y conceptuales. Promover el desarrollo de competencias investigativas se sustenta en la generación de nuevos conocimientos desde una visión científica de alcanzar la verdad, ante una sociedad de la información y el conocimiento, y un modo de evaluación formativa que pasa de la revisión (heteroevaluación) a la auto y coevaluación del mismo como productor de conocimientos (Fraile, Pardo & Panadero, 2017).
Si bien el tema (competencias investigativas) es de alta relevancia, pocos son los referentes o propuestas metodológicas indicadas para su desarrollo y evaluación, la búsqueda documental sobre el tema conllevó a la identificación de investigaciones desde el punto de vista conceptual, se describen y se enuncian. La investigación de Álvarez, Pérez & Durand (2016), propuso una metodología a partir del modelo pedagógico para la formación y desarrollo de competencias investigativas para los estudiantes de la universidad de Guantánamo, Cuba, basado en la siguiente estructura: 1) Fundamentación, 2) Objetivo general, 3) Fases de implementación, 4) Evaluación del proceso formativo. 5) Participar en actividades científicas de la facultad o entidades laborales.
Su evaluación se llevó a cabo mediante el mismo proceso de desarrollo de proyectos de investigación y con entrevistas continuas con los profesores, a criterio propio. Pérez & Antolí (2016) diseñaron una metodología basada en el estudiante como agente activo de su propio conocimiento bajo la tutoría de su docente guía, para el desarrollo de competencias básicas de búsqueda, manejo y difusión de la información científica como parte del aprender a lo largo de la vida. No hubo ningún instrumento de medición de las competencias ni de investigación ni básicas en general.
Como se puede apreciar, en la literatura revisada, son pocas las contribuciones instrumentales que se tienen para su ponderación. De manera específica, se detalla el caso del Centro Universitario Internacional de México CUIM II, donde su propuesta metodológica para el desarrollo de proyectos de investigación, se basa en dos fases (primera y segunda) por cuatrimestre cada una, generando, al final de la carrera, cuatro proyectos de intervención.
En la primera tiene por objetivo construir el marco teórico a partir de las necesidades identificadas dentro de un problema en contexto, lo que orilla a realizar una propuesta de intervención; en la segunda, se desarrolla, se aplica y se evalúa dicha propuesta, tomando en cuenta el diseño de un instrumento de evaluación. No obstante, la evaluación de dichos proyectos no tenía contemplado ni el desarrollo de competencias investigativas ni su evaluación, así como tampoco la ponderación de la búsqueda, análisis y generación de conocimiento ante la demanda social del contexto en que se vive (Zambrano, Estrada, Beltrón & Zambrano, 2017).
Por lo anterior, y denotando la necesidad de contar con una herramienta para la evaluación del desarrollo de competencias investigativas, se diseñó un instrumento denominado “Rúbricas para evaluar competencias investigativas”, el cual integra el desarrollo de proyectos de investigación, metodología de un proyecto de investigación y normas de estilo APA. Es importante precisar que este instrumento posterior a su construcción, se sometió a un proceso de validación de facie por un grupo de expertos, y un juicio de expertos para el análisis de validez de contenido y finalmente a un grupo piloto, mediante el cual se evaluó el grado de compresión de instrucciones e ítems, así como el grado de satisfacción con el instrumento.
Uno de los aspectos fundamentales en la validación de un instrumento es validar el constructo. En este se refiere a aquellos criterios que proceden de una muestra de indicadores que orden, la palabra constructo representan el dominio o contenido a medir, es decir, la totalidad de los indicadores posibles, por lo que necesitan un acuerdo o consenso sobre su significado y, a partir de aquí, otorgarles carácter de utilidad desde un punto de vista científico, necesitando procedimientos de validación, por lo anterior la validez de constructo se refiere al proceso de significación que se aplica a un concepto unificador que integra las consideraciones de validez de contenido y de criterio en un marco teórico común para comprobar hipótesis acerca de relaciones teóricamente relevantes en un instrumento de evaluación (Prieto & Delgado, 2010).
A este respecto y relacionado con la validez de un instrumento en la literatura, se indican los tres tipos de validez: de constructo, de contenido y de criterio (Galicia, Balderrama & Navarro, 2017). Por tanto, la validez de constructo conlleva a la contrastación de las teorías científicas utilizadas en la investigación para diseñar el instrumento de evaluación mediante el método hipotético-deductivo (Prieto & Delgado, 2010) y, con ello, explicar las diferencias individuales encontradas según en puntuaciones la prueba (Quero, González & Judith, 2013), por lo que su función va encaminada a establecer el grado exacto con el que el instrumento mide aquellos que desea medir (Ayala, Sainz de Baranda, De Ste, & Santoja, 2012). Por su parte, la confiabilidad de un instrumento se refiere al grado de medición con que un instrumento mide con precisión (Agreda, Hinojo & Sola, 2016, Robles & Del Carmen, 2015).
METODOLOGÍA Y MÉTODOS
Tipo de Estudio
Se realizó un estudio instrumental con la intención de demostrar la validez de constructo y confiabilidad del instrumento para evaluar competencias investigativas en estudiantes de pedagogía en CUIM II, México. El estudio instrumental de acuerdo con Montero & León, (2007) se considera como la inclusión de propiedades psicométricas para desarrollar nuevos procedimientos, aparatos, instrumentos o pruebas desde una o varias categorías.
Procedimiento
El estudio de validez y confiabilidad del instrumento se llevó a cabo mediante las siguientes fases:
1. Instrumento
El instrumento es una rúbrica analítica socioformativa compuesta por cinco niveles de dominio dentro de tres dimensiones: el desarrollo de proyectos de investigación, metodología de un proyecto de investigación y normas de estilo APA. Como se indicó, el instrumento se validó en términos de contenido en un juicio de 13 expertos. Es importante mencionar que, en esta fase, se aplicó a un grupo piloto determinando un excelente grado de comprensión de instrucciones e ítems por parte de éste, y se realizó un análisis de consistencia interna, el cual reveló un valor aceptable (alfa de Cronbach: 0.73).
2. Selección de la muestra poblacional para la aplicación del instrumento.
El instrumento se aplicó a una muestra de 250 estudiantes. Es necesario señalar que en un principio, se había pensado aplicarlo únicamente a estudiantes de licenciatura en pedagogía, no obstante las distintas modalidades de titulación como ‘por promedio’ o ‘por créditos’ (por posgrado) limitó tal fin, por lo cual, se optó por realizar su aplicación a estudiantes de posgrado que estuvieran en pedagogía o una especialidad afín como la misma pedagogía, educación o ciencias de la educación, y que estuvieran, sea estudiando la asignatura de seminario de tesis o de metodología (Tabla 1). Se precisa que el instrumento se aplicó de manera presencial. Adicionalmente se aplicó la encuesta de satisfacción con el instrumento (CIFE, 2018).
Tabla 1 Datos Sociodemográficos de los Participantes (n=)
N |
250 |
Género |
22.8% masculino 77.2% femenino |
Edad |
25.8 |
Estado civil |
26.8% soltero 73.2% casado |
Hijos |
21.6% sin hijos 78.4& con hijos |
Nivel socio económico |
14.8% baja 76.8% aceptable 8.4% excelente |
Área residencial |
5.2% rural 94.8% urbana |
Grado de estudio |
24.4% licenciatura 75.6% maestría |
Tipo de universidad |
15.2% pública 84.8% privada |
Curso actual: seminario de titulación/metodología |
39.6% metodología de la investigación |
3. Análisis de validez de constructo y confiabilidad.
El análisis de validez de constructo se efectuó mediante la técnica de análisis factorial exploratorio (AFE) (Barrera, Carrillo, Chaparro, Sánchez & Carreño, 2015). Para cumplir con los supuestos de la muestra mínima para efectuar esta técnica estadística, se consultó lo indicado por Mavrou (2015). Para determinar la pertinencia de los datos para este análisis se realizó a través de la observación de la matriz de correlaciones, el valor de la determinante, la prueba de Kaiser Meyer Olkin & de Barlett (Costello & Osborne, 2005, Juárez, 2018). A este respecto los parámetros de pertinencia para efectuar el AFE fueron que los coeficientes de correlación en su mayoría fueran superiores a 0.50; que el valor del determinante fuera cercano a cero, que el índice de KMO fuera superior a 0.70 y finalmente que la prueba de esfericidad de Bartlett presentara una p<0.05 (Costello & Osborne, 2005; Juárez, 2018).
RESULTADOS
Análisis de validez de constructo y confiabilidad. Se presenta la matriz de correlaciones entre los ítems en la cual se puede observar que en términos generales las variables están correlacionadas significativamente (p<0.05) y con una determinante de .001. (Tabla 2).
Las pruebas Kaiser Meyer Olkin (KMO: 0.796) y esfericidad de Bartlett (Ji: 1953. gl 78; p<0.001) denotaron la pertinencia de los datos para ser analizados mediante el AFE. Propiamente, se reveló la representación de todos los ítems dentro del modelo factorial (Tabla 3). Se indica que tres factores poseen un autovalor superior a uno y en conjunto explican más del 58% de la varianza siendo el factor 1 el que explica más del 44% de la varianza.
De manera específica se indica que el análisis de la matriz factorial denotó la representación de todos los ítems al factor 1, sin embargo, los ítems 12 y 13 presentaron una carga factorial representativa también al factor 2 y los ítems tres y seis también se encuentran representados por el factor 3. Al efectuar la rotación matricial se observó una clarificación de las cargas factoriales, especificando que al factor 1 (denominado: desarrollo del proyecto de investigación) se encuentran representados los ítems 1, 2, 7, 8 y 10. Por su parte los ítems 3, 4, 5, 6, 9 y 11 están representados por el factor 2 (denominado encuadre de investigación), finalmente los ítems 12 y 13 están representados en el factor 3 (denominado uso del formato APA) (Tabla 4).
De la muestra participante se determinó que el instrumento posee una alta consistencia interna y, por lo tanto, confiabilidad al instrumento (Alfa de Cronbach: 0.902). Finalmente, la muestra población mostró un excelente grado de satisfacción con el instrumento, compresión de las instrucciones e ítems, así como indicaron que la relevancia de las preguntas es de excelente grado (Tabla 7).
DISCUSIÓN
A partir del análisis efectuado y de los resultados, se puede indicar que el instrumento posee validez de constructo, ya que todos los ítems están representados dentro del modelo factorial. En este orden, de acuerdo a Corral de Franco (2009) y a Prieto & Delgado (2010), el término constructo se refiere a algo no observable, pero que es construido para explicar regularidades o relaciones que se observan en la conducta, por lo que la validez de constructo responde la pregunta ¿Hasta dónde el instrumento mide realmente un rasgo determinado y con cuánta eficiencia lo hace? Por lo que esta validez interesa cuando se quiere utilizar lo observado, en relación de éste con el instrumento, para colegir la posesión de ciertos rasgos desde una teoría determinada. Por lo que sus metas son: a) especificar el significado del constructo a evaluar, b) especificar el significado de sus relaciones con otros constructos, así como sus manifestaciones y sus potencias interpretaciones y aplicaciones en otras situaciones similares (Prieto, 2010).
En este orden, la validez de constructo incorpora elementos de validez de facie y de contenido, por lo que se revista la importancia de la primera fase metodológica efectuada al instrumento aquí presentado. Propiamente los resultados del presente, enfatizan la representación de todos los ítems dentro del modelo factorial. Respecto a la conformación de factores y anidación de los ítems se corresponde con lo propuesto teóricamente. A este respecto como se indicó el primero de ellos agrupó a 1, 2, 7, 8, 10, por esta anidación de ítems este factor se denominó como ‘desarrollo de un proyecto de investigación’, el cual permite establecer un encuadre entre la tabla de contenido, la propuesta de intervención, la discusión de los resultados y la conclusión.
Por su parte, el segundo factor se denominó al ‘encuadre’ que debe existir entre la introducción, la justificación y el marco teórico, donde el objeto, sujeto y contexto de estudio, cruzan para darle una estructura firme al proyecto en desarrollo; y los ítems incluidos dentro de este fueron 3, 4, 5, 6, 9 y 11. El tercer factor contempla a los ítems 12 y 13, donde se refleja la importancia de las normas de citación estilo APA, tanto en la forma de citar y enunciar las referencias de consulta, como de la relación que se debe establecer entre éstas mismas como parte de la divulgación científica de dichos proyectos de investigación.
Los tres factores son los ejes de formación que se promueven entre los estudiantes de la licenciatura y que se desarrollaron a través de las dos fases de investigación que promueve CUIM II, dichas fases se llevaron a cabo a partir del sexto y culminaron en el noveno cuatrimestre, y que se conformaron dos proyectos en sus 1ª y 2ª fase. La metodología que se siguió se organizó y que permitió de la siguiente forma: 1) uso de la ‘V heurística’ de manera grupal para la detección del problema a resolver, el establecimiento de objetivos, de metas y categorías de análisis, previo a la construcción del protocolo de investigación; 2) encuadrado el proyecto en el sujeto, objeto y contexto de estudio, 3) desarrollo del protocolo, 4) búsqueda de información en repositorios específicos como Redalyc y Google Académico de manera colaborativa, por equipos de tres a cuatro personas utilizando Google Drive como medio de realimentación por parte del docente; 5) análisis documental según las categorías de análisis, siguiendo la citación y referenciación APA (American Psychological Association); 6) construcción del marco teórico, donde el parafraseo y la citación APA, tenían un protagonismo importante de fundamento y estructura. Al final, el mejor trabajo se presentaba como grupal.
CONCLUSIONES
Fundamentando desde la socioformación, las competencias investigativas son aquellas capacidades que se desarrollan en la propia acción de construir y transmitir conocimientos como una meta a la resolución de un problema específico y concreto, cuya solución requiere de un fundamento teórico, así como una metodología adecuada como base a futuras investigaciones. En este sentido, el trabajo en colaboración y comunicación constante, tanto con pares como con un experto, fortalece la disposición de integrar y formar equipos científicos como resultado de una formación científica profesional.
REFERENCIAS BIBLIOGRÁFICAS
Agreda, M., Hinojo, M.A., & Sola, J.M. (2016, julio). Diseño y validación de un instrumento para evaluar la competencia digital de los docentes en la educación superior española Pixel-Bit. Revista de Medios y Educación, (49), 39-56. Recuperado de: https://goo.gl/UxJVzB
Álvarez, V.M., Pérez, A., & Durand, O. (2016). Metodología para la formación de competencia investigativa en los estudiantes de la Universidad de Guantánamo. EduSol, Vol. 16(55), 1-10. Recuperado de: https://goo.gl/x44fPS
Álvarez, D. L., & Arias, V. M. (2016). La enseñanza abierta como estrategia para la formación en competencias investigativas en Educación Superior. Revista Científica, (26), 117-124. Doi: http://dx.doi.org/10.14483/udistrital.jour.RC.2016.26.a12
Ayala, F., Sainz de Baranda, P., De Ste, M., & Santonja, F. (2012). Fiabilidad y validez de las pruebas sit-and-reach: revisión sistemática. Revista Andaluza de Medicina del Deporte, Vol. 5(2), 57-66. Recuperado de: https://goo.gl/FgdcBP
Barrera, L., Carrillo, G.M., Chaparro, L., Sánchez, B., Vargas, E., & Carreño, S. P. (2015). Validez de constructo y confiabilidad del instrumento calidad de vida versión familiar en español. Enfermería Global, Vol. 14(1), 227-238. Recuperado de: http://www.redalyc.org/articulo.oa?id=365834856013
Cardona, S; Vélez, J; & Tobón, S. (2016). Contribución de la evaluación socioformativa al rendimiento académico en pregrado. EDUCAR, Vol. 52(2), 423-447. Recuperado: de https://goo.gl/XQ96Db
CIFE. (2018). Instrumento “Cuestionario de satisfacción con el instrumento”. México. Centro Universitario CIFE. Recuperado de: https://cife.edu.mx/recursos/2018/09/28/instrumentos-de-evaluacion-y-diagnostico/
Corral de Franco, J. (2009). Validez y confiabilidad de los instrumentos de investigación para la recolección de dato. Revista Ciencias de la Educación. Segunda Etapa, Vol. 19(93), 229-247. Recuperado de: https://goo.gl/Y8Ztf6
Correa Bautista, J.E. (2017). Medición de las competencias investigativas en docentes de fisiología: una aproximación empírica. Rev. Fac. Med., Vol. 57(3), 249-256. Recuperado de: https://goo.gl/19KJ5Y
Costello, B. A. & Osborne, W.J. (2005). Best Practices in Exploratory Factor Analysis: FourRecommendations for Getting the Most From Your Analysis. Practical Assessment, Research & Evaluation, Vol. 10(7). Recuperado de: https://es.scribd.com/document/356616161/Fatorial-Costello-Osborne-2005
Cronbach, L. J. (1951). Coefficient alpha and the internal structure of tests. Psychometrika, Vol. 16(3), 297-334. https://doi.org/10.1007/BF02310555
Cruz, K. A. (2015). La formación inicial de investigadores. Ra Ximhai, Vol. 11(4), 91-100. Recuperado de: http://www.redalyc.org/articulo.oa?id=46142596005
De Winter J. & Dodou, D. (2012). Five-Point Likert Items: t test versus Mann-Whitney-Wilcoxon. Practical Assessment, Research & Evaluation, Vol. 15(11), 1-16. Recuperado de: https://www.pareonline.net/getvn.asp?v=15&n=11
Fraile, J. Pardo, R., & Panadero, E. (2017). ¿Cómo emplear las rúbricas para implementar una verdadera evaluación formativa? Revista Complutense de Educación, Vol. 28(4), 33-48. http://dx.doi.org/10.5209/RCED.51915
Galicia, L.A., Balderrama, J. A., & Navarro, E.N. (2017). Validez de contenido por juicio de expertos: propuesta de una herramienta virtual. Apertura, Vol. 9(2), 42.53. Recuperado de: https://goo.gl/b8pbQ7
Juárez, L. G. (2018). Manual práctico de estadística básica para la investigación. Florida: Kresearch. DOI: 10.24944/isbn.978-1-945721-24-3
Lloret, S., Ferreres, A., Hernández, A., & Tomás, I. (2014). El análisis factorial exploratorio de los ítems: una guía práctica, revisada y actualizada. Anales de Psicología, Vol. 30(3), 1151-1169. Recuperado de: http://www.redalyc.org/articulo.oa?id=16731690031
Mavrou I. (2015, enero-junio). Análisis factorial exploratorio: cuestiones conceptuales y metodológicas. Revista Nebrija de Lingüística aplicada a la enseñanza de las lenguas, (19). Recuperado de: https://www.nebrija.com/revista-linguistica/analisis-factorial-exploratorio.html
Montero, I., & León, O. G. (2007). A guide for naming research studies in Psychology. International Journal of clinical and Health psychology, Vol 7(3), 847-862. Recuperado de: https://goo.gl/1Bhtyt
Pérez, C., & Antolí, A. (2016). Desarrollar competencias en la educación superior con trabajo autónomo y de investigación. Opción, Vol. 32(12), 238-253. Recuperado de: https://goo.gl/D5jJxN
Prieto, G., & Delgado, A. (2010). Fiabilidad y validez. Papeles del Psicólogo, Vol. 31(1), 67-74. Recuperado de: https://goo.gl/jj2CqV
Quero, M., González, M., & Judith, D. (2013). Pertinencia de los términos validez y fiabilidad en investigaciones de la complejidad social. Opción, Vol. 29(71), 45-56. Recuperado de: https://goo.gl/4XpR4L
Reiban, R.E., De la Rosa, H., & Zeballos, J.M. (2017). Competencias investigativas en la Educación Superior. Revista Publicando, Vol. 4(10), 395-405. Recuperado de:https://goo.gl/X7hBcu
Robles, P., & Del Carmen, M. (2015). La validación por juicio de expertos: dos investigaciones cualitativas en Lingüística aplicada. Revista Nebrija de Lingüística aplicada a la enseñanza de las lenguas, Vol. 18, 1-16. Recuperado de: https://goo.gl/FKTT7c
Ruiz, M.A. & San Martín, R. (1992). El comportamiento de la regla k1 en la estimación del número de factores. Psicothema, Vol. 4(2), 543-550. Recuperado de: https://goo.gl/6jpyGj
Tobón, S., Guzmán, C. E., Hernández, J.S., & Cardona, S. (2015). Sociedad del Conocimiento: Estudio documental desde una perspectiva humanista y compleja. Revista Paradigma, Vol. 36(2), 7 – 36. Recuperado de: https://goo.gl/pkIG06
Zambrano, J. M., Estrada, O., Beltrón, C. & Zambrano, L. (2017). Habilidades investigativas -en relación al uso de las tic- a desarrollar en estudiantes de carreras con perfil informático. Revista Gnosis, Revista de Filosofía, letras y Ciencias de la Educación, Vol. 2(1), 1-14. Recuperado de: https://goo.gl/ha7XQy
Datos del (los) autor (es)
1Mtro. en Psicología Educativa, estudiante del doctorado en Socioformación y Sociedad del Conocimiento en Centro Universitario CIFE. México.
2Doctor en Modelos Educativos y Políticas Culturales. Globalización e Identidad en la Sociedad del Conocimiento. Integrante del Sistema Nacional de Investigadores de México (SNI). Investigador en el Centro Universitario CIFE. México.