Denotemos por f a função pedida. Sendo N o ponto médio do segmento AE, vamos considerar três outros pontos P, Q e R, que representam possíveis posições de partida da formiguinha. Para qualquer um desses pontos, sua distância ao ponto A será denotada por x. Temos três situações:

1ª) a formiguinha parte de um ponto P entre A e N. Nesse caso o menor caminho é: P→A→C→M. Observe que se x=AP aumenta (P se aproxima de N), o caminho a ser percorrido também aumenta do mesmo comprimento. Isso significa que f é crescente entre A e N (e que seu gráfico, neste trecho, é um segmento de reta de inclinação igual a 1).
2ª) a formiguinha parte de um ponto Q entre N e E. Nesse caso o menor caminho é: Q→E→D→M. Observe que se x=AQ aumenta (Q se aproxima de E), o caminho a ser percorrido diminui do mesmo comprimento. Isso significa que f é decrescente entre N e E (e que seu gráfico, neste trecho, é um segmento de reta de inclinação igual a −1).
3ª) a formiguinha parte de um ponto R entre E e B. Nesse caso o menor caminho é: R→E→D→M. Observe que se x=AR aumenta (R se aproxima de B), o caminho a ser percorrido também aumenta do mesmo comprimento. Isso significa que f é crescente entre E e B (e que seu gráfico, neste trecho, é um segmento de reta de inclinação igual a 1).
Resumindo: entre A e B a função f cresce, decresce e torna a crescer (sempre tendo como gráfico um segmento de reta). Apenas a alternativa (A) mostra esse comportamento.
Outra solução: Na figura, marcamos o ponto médio N do segmento AE e três outros pontos P, Q e R, que representam possíveis posições de partida da formiguinha nos segmentos AN, NE e EB, respectivamente. Para qualquer um desses pontos, sua distância ao ponto A será denotada por x e vamos adotar o lado do quadrado como unidade de comprimento.

Se a formiguinha sai de P, o trajeto mais curto passa por A e C, como indicado pelas flechas. Nesse caso, a formiguinha vai andar
PA + AC + CM = x + 1 + 1/2 = x + 3/2 unidades de comprimento.
Se a formiguinha sair de N, não faz diferença ela passar por A e C ou por E e D, pois em qualquer caso ela vai andar 1/2 + 1 + 1/2 = 2 unidades de comprimento. Se ela sai de Q, o trajeto mais curto passa por E e D, e ela vai andar
QE + ED + DM = (1 − x) + 1 + 1/2 = 5/2 − x unidades de comprimento.
Finalmente, se ela sai de R ela vai andar
RE + ED + DM = (x − 1) + 1 + 1/2 = x + 1/2 unidades de comprimento.
Desse modo, a função que representa a menor distância que a formiguinha deve andar de algum ponto do segmento AB, à distância x do ponto A, até chegar ao ponto M, é dada pela função

cujo gráfico é o da alternativa (A).