La métrica que vamos a usar es Structural similarity index.
Al comparar imágenes, el error cuadrático medio (mean squared error -MSE-), aunque es sencillo de aplicar no es muy indicativo de la similitud. La similitud estructural pretende subsanar esta deficiencia teniendo en cuenta la textura, y es por esto por lo que se ha elegido esta métrica para evaluar los envíos.
Podéis leer más sobre esta métrica en este enlace https://medium.com/srm-mic/all-about-structural-similarity-index-ssim-theory-code-in-pytorch-6551b455541e.
Para cada foto que nos envíes, vamos a ver el grado de diferencia con respecto a la foto de alta resolución original.
Sumamos todas estas diferencias, y calculamos el porcentaje medio de similitud, diviendo por el número de fotos que tenemos en nuestro set de imágenes (es el mismo número de fotos que hay en el dataset de test que os damos). Tras hacer esto, un score perfecto tendría una similitud del 1.00, o lo que es lo mismo, que las dos imágenes son iguales.
El score perfecto se obtendría si el fichero contiene para cada foto candidata en alta resolución la misma foto en nuestro dataset, de manera que al comparar las fotos siempre se hubiese obtenido la misma imagen.
Aclaración: para evaluar las fotos necesitamos que envíes el mismo número de fotos que hay en el test set, por lo que si envías mas o menos fotos, el resultado será de 0.
Aclaración 2: cuando decimos "envía las fotos candidatas en alta resolución" queremos decir que para cada una de las fotos se espera la equivalente de alta resolución, pero si algunas fotos no se han modificado y se envía la misma foto en baja resolución que os dimos nosotros, en ese caso el error será alto, pero se realizará la evaluación del envío que hagáis.
Aclaración 4: En los envíos, debes comprimir todas las fotos tal y como se presentan en el fichero de ejemplo que os hemos dado (generando un fichero .zip que puede llamarse como quiera) cuyo contenido serán todas las fotos en alta resolución generadas.
Aclaración 5: El contenido del fichero .zip que subas serán las fotos en alta resolución que corresponden con las fotos en baja resolución proporcionadas por Spain AI. Las fotos en alta resolución del fichero .zip deben llamarse "candidate_n.png", donde "n" será el identificador de cada foto y deberá ser el mismo identificador que tenía la foto en baja resolución para la que se ha obtetnido dicha foto en alta resolución.
Aclaración 6: Asegúrate de que generas un zip donde los contenidos sean las fotos. Un error común es meter las fotos en una carpeta y comprimir la carpeta. Si haces esto el programa de evaluación no encontrará las fotos (solo encontrará la carpeta) y el resultado será 0.0.
Aclaración 7: La evaluación de los envíos tarda en subirse ya que es un archivo bastante grande, y también tarda en ejecutarse. Dejad la página abierta un rato ya que la plataforma no tiene barra de progreso y no veréis en qué punto estáis de la subida del fichero, o de la evaluación del envío.
Aclaración 8: Las fotos que nos enviéis se van a comparar contra las fotos de alta resolución que tenemos almacenadas, por lo que si alguna foto no la subís no será evaluada, y no obtendréis puntos por ellas, teniendo un score más bajo que aquellas personas que si suban todas las fotos.
Aclaración 9: Las fotos que nos enviéis deben tener una resolución igual que las fotos candidatas, es decir, una resolución de 2400x2400 px. Si envías fotos con otra resolución, no se tendrán en cuenta y no sumará puntos.